Бывший разработчик Anthropic и руководитель службы безопасности компании предупредили, что гонка за созданием всё более мощного искусственного интеллекта может привести к утрате контроля над такими системами ещё до конца десятилетия. Ушедший из Anthropic Джейкоб Коксон написал в социальных сетях, что компании «играют с нашими жизнями», стремясь создать системы, способные самостоятельно совершенствоваться.

Глава службы безопасности Anthropic Эван Хубингер публично согласился с этими опасениями. По его оценке, вероятность того, что искусственный интеллект станет причиной вымирания человечества в течение 2020-х годов, превышает 10%. Это личная оценка специалиста, а не единый прогноз компании или всех исследователей ИИ.

Предупреждения о гонке к сверхинтеллекту

Спор связан с возможным переходом от нынешних больших языковых моделей к искусственному общему интеллекту, а затем — к искусственному сверхинтеллекту. Современные большие языковые модели могут показывать высокие результаты в отдельных областях, однако обычно не считаются системами, обладающими человеческими способностями во всех когнитивных задачах.

Искусственный общий интеллект остаётся гипотетическим понятием, для которого нет общепринятого определения. В распространённой трактовке такая система сможет учиться, рассуждать, планировать и применять знания в широком круге задач на уровне человека или выше. Сверхинтеллект должен превзойти людей практически во всех когнитивных областях — включая разработку новых технологий и возможное переписывание собственного программного кода.

Сроки появления подобных систем остаются предметом спора. Некоторые представители технологической отрасли допускают возникновение систем, близких к общему искусственному интеллекту, в ближайшие несколько лет. При этом приведённый анализ подчёркивает неопределённость прогнозов: официальных сроков достижения этого рубежа у правительства США нет.

Исследования показывают разногласия по масштабу угрозы

Опасения высказывают не только сотрудники Anthropic. Согласно данным опроса 1 580 исследователей ИИ, половина участников оценила как минимум в 10% вероятность того, что искусственный интеллект приведёт к вымиранию людей или к постоянной утрате человечеством контроля над ним. Методика и дата проведения опроса в представленном материале не уточняются.

Этот результат не означает, что исследователи считают вымирание наиболее вероятным исходом. Он показывает, что значительная доля специалистов воспринимает такой сценарий как достаточно серьёзный, чтобы приписать ему двузначную вероятность; другие участники оценивают риск ниже или не принимают такую постановку вопроса.

Регулирование может замедлить или ускорить развитие

Среди возможных факторов, способных замедлить развитие ИИ, называются регулирование, общественное сопротивление и ограничения инфраструктуры. Государства могут вводить требования безопасности и договариваться о международных ограничениях, а протесты против сокращения рабочих мест и высокое энергопотребление дата-центров способны влиять на темпы внедрения. Одновременно рыночная конкуренция и геополитическое соперничество могут ускорять разработку.

Подходы разных юрисдикций уже различаются. Европейский союз регулирует ИИ с учётом рисков для пользователей, тогда как Великобритания использует более децентрализованную модель. В представленном анализе отмечается отсутствие единого общенационального закона об ИИ в США; Китай, в свою очередь, сочетает развитие технологий с ограничениями политического и социального контента.

Главная неопределённость заключается в том, смогут ли меры безопасности успеть за ростом возможностей систем. В предоставленных комментариях оценки расходятся по тону: один материал призывает к независимой проверке технологической отрасли, другой предлагает рассматривать факторы, способные как отложить, так и приблизить появление общего ИИ. Оба подхода указывают на то, что регулирование будет определять последствия нынешней гонки.