Перевод оригинального материала

«Очень страшно»: Обещание Марка Цукерберга создать продвинутый ИИ настораживает экспертов

Марк Цукерберг / Godofredo A Vásquez/AP
Опубликовано 21 января 2024 в 16:35

Время чтения: 4 мин

Фото: Марк Цукерберг / Godofredo A Vásquez/AP

Руководителя Meta* обвинили в "безответственности", когда он решил сделать инструменты, не уступающие человеческому интеллекту, с открытым исходным кодом.

Создание системы искусственного общего интеллекта (ИОИ) с открытым исходным кодом сравнивают с "предоставлением людям шаблона для создания ядерной бомбы".

Марка Цукерберга обвинили в безответственном подходе к искусственному интеллекту после того, как он пообещал создать мощную систему искусственного интеллекта, не уступающую по уровню интеллекта человеку. Основатель Facebook также заговорил о перспективе сделать ее свободно доступной для общественности.

Глава Meta заявил, что компания попытается создать систему искусственного интеллекта общего назначения (ИИОН, англ. - AGI) и сделать ее с открытым исходным кодом, то есть она будет доступна для разработчиков за пределами компании. Он добавил, что система должна быть "настолько широко доступна, насколько это возможно с нашей точки зрения".

В своем сообщении на Facebook** Цукерберг заявил, что очевидно, что следующее поколение технологических сервисов "требует создания полноценного общего интеллекта".

AGI не является строго определенным термином, но обычно под ним подразумевается теоретическая система ИИ, способная выполнять целый ряд задач на уровне интеллекта, который соответствует или превосходит человеческий. Потенциальное появление AGI встревожило экспертов и политиков по всему миру, которые опасаются, что такая система или сочетание нескольких систем AGI может выйти из-под контроля человека и угрожать человечеству.

Цукерберг подтвердил, что Meta рассмотрит возможность создания своих AGI с открытым исходным кодом, то есть свободно доступных разработчикам и общественности для использования и адаптации, как, например, модель ИИ Llama 2, разработанная компанией.

"Эта технология настолько важна, а возможности настолько велики, что мы должны открыть исходный код и сделать его настолько широко доступным, насколько это возможно с нашей точки зрения, чтобы все могли извлечь выгоду".

- сказал Цукерберг

Дама Венди Холл, профессор информатики Саутгемптонского университета и член консультативного органа ООН по ИИ, сказала, что перспектива создания ИИ с открытым исходным кодом "действительно очень пугающая" и что со стороны Цукерберга было безответственно рассматривать такую возможность.

"Мысль о том, что AGI с открытым исходным кодом будет выпущен до того, как мы придумаем, как регулировать эти очень мощные системы ИИ, действительно очень страшна. В чужих руках такая технология может нанести огромный вред. Это очень безответственно для компании - предлагать такое".

- сказала Холл

Холл добавила:

"К счастью, я думаю, что еще много лет пройдет, прежде чем такое стремление [AGI] будет реализовано каким-либо значимым образом, поэтому у нас есть время, чтобы создать системы регулирования. Но это вопрос общественной безопасности, и мы должны продвигать эту работу с некоторой срочностью".

В прошлом году на глобальном саммите по безопасности ИИ в Великобритании Meta была в числе технологических компаний, которые обязались предоставить правительствам возможность проверять инструменты искусственного интеллекта до и после их выпуска.

Другой эксперт из Великобритании заявил, что открытое создание системы искусственного интеллекта - это не то решение, которое следует оставлять в руках технологической компании.

"Существуют глубокие и сложные споры о достоинствах открытого доступа к текущим моделям ИИ, а переход к AGI может стать как спасением мира, так и катастрофой. Такие решения должны приниматься на основе международного консенсуса, а не в зале заседаний совета директоров какого-нибудь технологического гиганта".

- сказал доктор Эндрю Рогойски, директор Института ИИ, ориентированного на людей, в Университете Суррея

В интервью, которое Цукерберг дал в четверг новостному сайту The Verge, он сказал, что будет склоняться к открытому источнику до тех пор, пока это будет иметь смысл и будет "безопасным и ответственным делом".

Это напоминает предоставление людям шаблона для создания ядерной бомбы

Решение Meta в прошлом году открыть исходный код Llama 2 вызвало критику со стороны некоторых экспертов, в том числе Холла, который сказал, что это "напоминает предоставление людям шаблона для создания ядерной бомбы".

Калифорнийская компания OpenAI, разработчик ChatGPT, также занимается созданием AGI, который она определяет как "системы ИИ, которые в целом умнее человека", а Демис Хассабис, глава подразделения Google DeepMind, занимающегося вопросами ИИ, заявил, что AGI может появиться менее чем через десять лет.

На этой неделе на Всемирном экономическом форуме в Давосе (Швейцария) глава OpenAI Сэм Альтман высказал предостережение, заявив, что дальнейшее развитие ИИ будет невозможно без прорыва в области энергетики, например ядерного синтеза.

Цукерберг не назвал сроков разработки системы искусственного интеллекта, хотя и сказал, что Meta создала "абсолютно огромную инфраструктуру" для создания новых систем ИИ. Компания заказала значительный запас чипов для обработки данных ИИ. Цукерберг добавил, что работа над продолжением Llama 2 также идет полным ходом.

* Запрещенная в России организация

** Соцсеть, признанная в России экстремистской

Опубликовано 21 января 2024 в 16:35
Категория: Новости
Теги:

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Uzabila