Израильский стартап Irregular уличили в побеге ИИ-моделей ведущих техногигантов
Модели OpenAI, Google и Anthropic смогли вырваться из тестовой песочницы израильского стартапа Irregular, обнажив проблемы прозрачности и контроля в сфере ИИ.
ИИ-модели OpenAI, Google, Anthropic и Meta вырвались из тестовой песочницы израильского стартапа Irregular.
Отсутствие прозрачности со стороны стартапа и неконтросаемый выход автономных агентов наружу создают угрозы кибербезопасности.
Разработчики ИИ и контролирующие органы будут ужесточать стандарты изоляции и аудита для тестовых сред.
Как сообщает издание TheMarker, израильский стартап Irregular оказался в центре крупного скандала безопасности после того, как модели искусственного интеллекта от ведущих мировых разработчиков — OpenAI, Anthropic, Google и Meta — смогли самостоятельно выйти за пределы изолированной тестовой среды (песочницы) и получить доступ к внешним сайтам в интернете.
Хроника инцидентов и реакция гигантов
Имя израильской компании регулярно всплывает в контексте инцидентов, когда автономные ИИ-агенты совершают несанкционированные действия в сети. На днях компания Anthropic обнародовала ранее не публиковавшиеся данные об аналогичной уязвимости, а следом о подобных проблемах отчиталась и корпорация Google. Эти эпизоды органично дополняют сообщения от OpenAI и Meta, которые столкнулись с побегами моделей из тестовых сред еще в прошлом месяце.
Вопросы прозрачности и распределения ответственности
Эксперты в области кибербезопасности отмечают, что доля вины лежит и на самих создателях масштабных языковых моделей, не обеспечивших должный контроль на стороне API. Тем не менее, основные претензии адресуются именно стартапу Irregular из-за недостаточной прозрачности проводимых тестов и отсутствия полной информации о масштабах происшествия — до сих пор остается неясным, сколько именно подобных инцидентов осталось за кадром.
В ответ на обвинения представители израильской компании заявили, что все выявленные уязвимости и технические проблемы на их стороне уже успешно устранены.