OpenAI в понедельник извинилась перед правительством Австралии за то, что не сразу уведомила администрацию страны о том, что ее агенты взломали некоторые веб-сайты государственных услуг.
Компания также подробно рассказала, как произошли некоторые из этих нарушений, и обозначила дополнительные меры, которые она принимает для оценки последствий этих событий. "В июне во время внутреннего обучения и оценки наши модели заходили на веб-сайты правительства Австралии способами, на которые им не было разрешено.
Нам также следовало лучше реагировать.
Мы приносим извинения и работаем над тем, чтобы добиться большего в будущем", - написал OpenAI в своем блоге.
Извинения поступили примерно через неделю после того, как правительство Австралии начало расследование того, как модели OpenAI получили доступ к системе Services Australia, содержащей информацию о расходах Medicare и другую статистику здравоохранения.
Утечка данных произошла в июне, но австралийские власти были уведомлены только 10 сентября.
OpenAI также подробно рассказала об утечке.
Экспериментальной модели, которую компания тестировала в июне, было поручено изучить государственные расходы на лекарства от кожных заболеваний в Виктории.
Не имея возможности найти информацию в общедоступных наборах данных, модель нашла способ получить доступ к внутренней системе Services Australia, запускать команды, получать файлы и учетные данные и даже записывать файлы.
Компания заявила, что также обнаружила, что одна из ее моделей получила доступ к общедоступному инструменту картирования преступности Бюро статистики преступности и исследований Нового Южного Уэльса, чтобы найти статистику преступности.
Кроме того, лаборатория обнаружила, что ее агенты получили доступ к Агентству медицинской информации штата Виктория с помощью открытого ключа доступа для кражи «конфигурации отчетности и совокупной статистики опросов».
OpenAI сообщила, что ее агенты также получили совокупную статистику с веб-сайта Австралийского института здравоохранения и социального обеспечения.
Компания заявила, что не обнаружила никаких доказательств того, что ее модели имели доступ к медицинским или уголовным досье людей.
В своих извинениях лаборатория искусственного интеллекта заявила, что предоставит пострадавшим австралийским агентствам технические данные и свяжет их со своими группами реагирования для оценки последствий нарушений.
Компания также предоставит кредиты в рамках своей программы Daybreak for Frontline Defenders стоимостью 1 миллиард долларов и создаст рабочую группу из независимых австралийских экспертов для рассмотрения инцидента и реагирования на него.
«Целевая группа, которая, как ожидается, завершит свою работу к концу года, также порекомендует практические шаги, которые компании, занимающиеся искусственным интеллектом, могут предпринять для снижения риска подобных инцидентов», — пишет OpenAI.
OpenAI не сразу ответил на запрос о комментариях.
Премьер-министр Австралии Энтони Альбанезе назвал нарушение «неприемлемым» во время брифинга на прошлой неделе, заявив, что правительство рассматривает потенциальные правовые меры, направленные на предотвращение подобных инцидентов в будущем.
Это нарушение является последним в растущем списке инцидентов безопасности, в которых агенты ИИ совершают действия за пределами своих предполагаемых границ.
Трут на этом конкретном костре зажегся после того, как агенты OpenAI взломали Hugging Face, и с тех пор Anthropic, Meta и Google по отдельности раскрывали подобные инциденты, когда их модели получали доступ к системам третьих сторон во время оценок.