Прямо перед увольнением генерального директора OpenAI Сэма Альтмана несколько сотрудников написали письмо совету директоров, сообщив о «создании искусственного интеллекта, который может угрожать человечеству», о чем сообщили Reuters два источника, знакомых с этим вопросом.
Компания OpenAI, которая отказалась от комментариев, во внутреннем сообщении сотрудникам признала наличие проекта под названием Q*, о чем сообщил один из источников. Некоторые в OpenAI считают, что Q* (произносится как Q-Star) может стать прорывом в поиске так называемого общего искусственного интеллекта (artificial general intelligence, AGI). OpenAI описывает AGI как автономные системы, которые превосходят людей в большинстве экономически ценных задач.
Учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи, как сообщил источник. Несмотря на то, что Q* выполняет математику только на уровне учеников начальной школы, успешное выполнение таких тестов вселяет в исследователей большой оптимизм в отношении будущего успеха Q*.
Исследователи считают, что математика — это передовой рубеж развития генеративного ИИ. В настоящее время генеративный ИИ хорошо умеет писать и переводить, статистически предсказывая следующее слово, и ответы на один и тот же вопрос могут сильно различаться. Но освоение способности заниматься математикой – там, где есть только один правильный ответ – подразумевает, что ИИ будет обладать большими способностями к рассуждению, напоминающими человеческий интеллект. Это можно применить, например, к новым научным исследованиям, как считают исследователи ИИ. В отличие от калькулятора, который может выполнять ограниченное количество операций, AGI может обобщать, учиться и понимать.
В своем письме совету директоров исследователи отметили мощь ИИ и потенциальную опасность. Среди ученых-компьютерщиков уже давно ведутся дискуссии об опасности, которую представляют высокоинтеллектуальные машины, например, если они могут решить, что уничтожение человечества отвечает их интересам.
Через день после получения письма правление уволило Альтмана. Вчера стало известно, что он вернётся на пост генерального директора OpenAI после скандального увольнения.
