Исследователь в области искусственного интеллекта Джейкоб Куксон объявил об уходе из Anthropic и индустрии ИИ после трех лет работы в OpenAI и Anthropic. В своем заявлении он предупредил о рисках, связанных с разработкой систем, которые в перспективе могут превзойти человеческий интеллект.
Куксон, занимавшийся исследованиями в области обучения моделей, заявил, что ни одна из компаний, в которых он работал, по его мнению, не демонстрирует достаточной ответственности перед лицом потенциальных угроз.
«Они мчатся навстречу сверхчеловеческому интеллекту, который способен к самосовершенствованию и может взять под контроль наши жизни», — написал исследователь.
В интервью Wall Street Journal Куксон отметил, что особенно его беспокоит возможность создания систем, способных самостоятельно совершенствовать свои возможности и быстро становиться сложнее для контроля со стороны человека.
По словам исследователя, конкуренция между крупнейшими разработчиками ИИ фактически не позволяет компаниям существенно замедлить работу над передовыми моделями. Даже если сотрудники осознают потенциальные риски, опасение, что конкуренты продолжат разработку, заставляет компании двигаться дальше.
Куксон сравнил свой опыт работы в OpenAI и Anthropic. По его словам, в Anthropic лучше понимают связанные с ИИ риски, однако компания продолжает участвовать в гонке за достижение новых возможностей. Исследователь объясняет это логикой, согласно которой остановка одной компании не остановит конкурентов, которые могут уделять вопросам безопасности меньше внимания.
Особую обеспокоенность Куксон выразил относительно развития ИИ в ближайшие годы. Он утверждает, что некоторые специалисты и руководители отрасли в частных разговорах допускают возможность крайне серьезных последствий для человечества уже к концу десятилетия.
При этом исследователь признает, что Anthropic уделяет значительное внимание безопасности ИИ. Однако он сомневается, что отдельная компания способна ответственно разработать передовой искусственный интеллект общего назначения в условиях жесткой конкурентной борьбы.
Куксон также предупредил, что будущие системы, превосходящие человека по интеллекту, потенциально смогут проводить сложные кибератаки, ускорять научные исследования и получать доступ к значительным ресурсам и влиянию в реальном мире.
По мнению исследователя, для снижения рисков необходимы государственное регулирование и международные соглашения между разработчиками ИИ. Его уход стал очередным случаем, когда специалисты из ведущих технологических компаний публично выражают обеспокоенность тем, что развитие возможностей искусственного интеллекта опережает создание механизмов его контроля и безопасности.
