Боязнь неуправляемого искусственного интеллекта

Ученые, работающие в сфере искусственного интеллекта, неоднократно выражали беспокойство о возможном утрате контроля над ИИ-агентами.

Джейкоб Коксон, выдающийся исследователь компании Anthropic, обнародовал своё решение покинуть индустрию искусственного интеллекта, мотивированное глубокими опасениями относительно потенциальной неконтролируемости ИИ-моделей и их возможных последствий для человечества. Как сообщает The Wall Street Journal, 27-летний британский специалист выразил обеспокоенность тем, что ведущие компании, занимающиеся разработкой ИИ, стремительно приближаются к созданию саморазвивающихся систем, которые могут выйти из-под человеческого контроля уже к концу следующего года.

Безопасность и Anthropic: аналитический подход

Anthropic, известная своей приверженностью вопросам безопасности в сфере ИИ, ранее также поднимала эти проблемы на академическом уровне. В июне компания опубликовала статью, в которой рассматривались потенциальные сценарии развития ИИ-агентов с возможностью самообучения и их влияние на общество. Anthropic представила два возможных сценария: позитивный, где ИИ-агенты способствуют решению сложных задач, и негативный, при котором они вытесняют людей из экономической сферы, лишая человечество контроля над технологическим прогрессом.

В целях предотвращения реализации негативного сценария, Anthropic инициировала призыв к международному сообществу ИИ-разработчиков о необходимости приостановки развития моделей, способных к самообучению. Компания организовала совместную работу исследователей, в результате которой около тысячи специалистов подписали заявление о глобальной координации усилий по замедлению темпов развития ИИ.

Конфликт интересов и государственное регулирование

Как отмечает The Wall Street Journal, глава Anthropic Дарио Амодей и другие руководители компании неоднократно вступали в конфронтацию с администрацией Трампа, поскольку правительство не уделяло должного внимания вопросам безопасности ИИ. Это подчеркивает необходимость более активного участия государства в регулировании данной сферы.

Коксон и его видение будущего ИИ

Джейкоб Коксон перешёл в Anthropic из OpenAI, привлечённый репутацией компании в области безопасности и этических аспектов разработки ИИ. Однако, по его собственным словам, ни одна из ведущих ИИ-компаний не способна обеспечить ответственное развитие технологии без вмешательства государства или замедления темпов развития отрасли.

Коксон подтвердил искренность мотивов Anthropic в своих заявлениях, но также отметил, что в условиях жесткой конкуренции крупные компании вынуждены идти на компромисс в вопросах безопасности. Он выразил пессимистичную оценку текущей ситуации, заявив: «Мы движемся в направлении реализации самого агрессивного сценария, и к концу следующего года ситуация может выйти из-под контроля».

Коксон также подчеркнул, что исследования в области ИИ ведутся в условиях, далеких от строгой секретности, подобной той, которая сопровождала Манхэттенский проект. Это вызывает дополнительные опасения относительно возможности непредвиденных и катастрофических последствий.

Экспертные мнения и вызовы будущего

Его опасения находят отклик среди других экспертов в области ИИ. Главный научный сотрудник OpenAI Якуб Пахоцкий призвал к осторожности и координации усилий для предотвращения потенциальных катастроф, связанных с развитием ИИ. В феврале исследователь безопасности Anthropic, Мринанк Шарма, покинул компанию, чтобы посвятить себя поэтической деятельности, и в своем прощальном письме предупредил о глобальных угрозах, которые могут возникнуть в результате неконтролируемого развития ИИ.

Подготовлено ТИАП по материалам wsj.

Понравилась ли Вам статья?