Сооснователь Microsoft Билл Гейтс в октябрьских интервью CNN и ABC News предупредил о возможном росте кибератак с помощью искусственного интеллекта в 2027 году. По его оценке, злоумышленники могут использовать новейшие модели без защитных ограничений для атак и биотерроризма. Он призвал власти усилить надзор за технологией.

Главная ближайшая угроза — использование ИИ злоумышленниками

Гейтс отделил опасность злонамеренного использования ИИ от риска того, что системы выйдут из-под контроля человека. Последний он не считает самой непосредственной угрозой. В ближайший год, по его прогнозу, наиболее заметные проблемы возникнут именно в киберпространстве.

Защитные механизмы в моделях должны препятствовать кибератакам и биотерроризму. Однако, по словам Гейтса, сейчас эти ограничения можно отключать. Он считает особенно опасным сочетание новейших моделей, отсутствия защиты и пользователей, намеренных причинить вред.

Гейтс описал несколько способов, которыми злоумышленники могут зарабатывать на подобных атаках. Один — угрожать атакой и требовать плату за отказ от неё. Другой — создавать сбои, чтобы повлиять на фондовый рынок или исход ставок.

Реклама

Он ожидает серьёзных неприятных последствий прежде всего в сфере кибербезопасности. Масштаб возможного роста атак в 2027 году пока неизвестен.

Гейтс призвал не оставлять контроль только компаниям

По мнению Гейтса, нынешних усилий для защиты от рисков ИИ недостаточно. Он отверг подход, при котором общество полагается исключительно на добровольное саморегулирование разработчиков. Такую позицию он связал с президентом США Дональдом Трампом.

Гейтс заявил, что сейчас нет достаточных регуляторных возможностей для защиты людей, и призвал американское правительство срочно вмешаться. Он охарактеризовал ИИ как самую опасную технологию, когда-либо созданную человеком. По его оценке, её преобразующая сила превосходит влияние интернета и вычислительной техники.

Президент Microsoft Брэд Смит также выступил за международные правила безопасности ИИ. Он предложил поручить независимым экспертам проверку новых моделей и обязать компании сообщать об инцидентах. Среди других предложений Смита — механизм экстренной остановки систем.

Предупреждения касаются и биотерроризма

В интервью CNN прозвучали и прежние предупреждения Гейтса о биологических угрозах. Он говорил, что ИИ может существенно облегчить злоумышленникам разработку смертоносного биологического оружия. Риск биотеррористической атаки он оценивал как в 50 раз более высокий, чем риск естественной пандемии.

Ранее Гейтс также описывал возможные сценарии кибератак, способных нарушить работу банков и электросетей. В случае использования технологии биотеррористами он предупреждал о потенциальной гибели сотен миллионов людей. Эти оценки он приводил как предупреждения о возможных последствиях злонамеренного использования ИИ.