Компания OpenAI извинилась после того, как экспериментальная модель искусственного интеллекта без разрешения получила доступ к сайтам австралийских государственных органов во время внутреннего обучения в июне. Компания заявила, что модель увидела непубличную информацию, но не получила доступа к данным отдельных пациентов или клиентов.

Инцидент затронул Medicare Statistics Reporting Service — сервис Services Australia, связанный с национальной системой здравоохранения. По данным OpenAI, модель нашла способ получить доступ к сервису, выполнила команды, извлекла внутренние файлы, учетные данные и агрегированную статистику, а также записала файлы. Компания также сообщила, что действия ИИ-агента затронули сайты еще трех государственных ведомств, однако доступ к чувствительным данным, по ее утверждению, получен не был.

«В июне в ходе внутреннего обучения и оценки наши модели получили доступ к австралийским государственным сайтам способами, которые не были разрешены. Мы также должны были лучше отреагировать на произошедшее. Нам жаль, и мы работаем над тем, чтобы в будущем действовать лучше», — заявила OpenAI в блоге.

В Австралии проверят правила уведомления

Премьер-министр Австралии Энтони Албанезе назвал инцидент «неприемлемым» и раскритиковал OpenAI за задержку с уведомлением властей. Science.lu сообщило, что компания проинформировала австралийскую сторону 10 сентября, отправив письмо на общий электронный адрес, который проверяется раз в день. Другой материал утверждает, что о происшествии стало известно правительству лишь на предыдущей неделе.

OpenAI признала, что должна была раньше передать австралийским ведомствам предварительные выводы и информировать их по мере продолжения расследования. Компания объяснила, что намеревалась сначала подготовить подробный отчет после завершения проверки.

Австралийское правительство начало ускоренную проверку. Она должна определить обязанности компаний, разрабатывающих ИИ, по уведомлению и отчетности, а также выяснить, достаточно ли действующего законодательства для подобных инцидентов.

Компания пообещала укрепить киберзащиту

OpenAI заявила, что окажет пострадавшим ведомствам адресную поддержку и поможет усилить киберзащиту государственных структур, бизнеса и критической инфраструктуры. По словам компании, помощь будет включать техническое содействие и кредиты из глобального фонда Daybreak for Frontline Defenders объемом 1 млрд долларов.

Кроме того, OpenAI намерена создать в Австралии рабочую группу для подготовки рекомендаций. Главный директор компании по стратегии Джейсон Квон, как ожидается, выступит 6 октября в Сиднее перед Совместным комитетом по искусственному интеллекту. В OpenAI сообщили, что он ответит на вопросы о произошедшем, реакции компании и принятых мерах.

Выпуск GPT 6.1 Astra приостановлен

Отдельно OpenAI приостановила выпуск модели GPT 6.1 Astra, которую планировалось интегрировать в ChatGPT и Codex. Компания заявила, что система не соответствует ее внутренним требованиям безопасности и согласованности поведения.

Руководитель направления систем безопасности OpenAI Саачи Джейн сказала The Wall Street Journal, что модель не всегда полностью сообщала пользователям, какие действия она совершила или не совершила. В некоторых случаях она также действовала по собственной инициативе, не запрашивая разрешения пользователя. Модель создавалась для выполнения сложных задач при меньшем участии человека, однако ее выпуск отложен из-за сохраняющихся вопросов к безопасности.