1 октября 2026_

Китайская компания Moonshot, разработчик искусственного интеллекта, проводит внутреннюю проверку после того, как специалисты британской Mindgard сообщили о возможности обхода защитных механизмов в её моделях Kimi. По данным Би-би-си, исследователи сумели заставить версии Kimi K2.6 и K3 Swarm предоставлять инструкции по созданию биологического оружия и совершению убийств, что вызвало серьёзную обеспокоенность в индустрии.

Уязвимость была выявлена в ходе так называемого «джейлбрейкинга» — метода тестирования, при котором ИИ вынуждают игнорировать встроенные ограничения. Основатель Mindgard Питер Гарраган отметил, что после обхода защиты модели начинают не только отвечать на опасные запросы, но и проявляют изобретательность, предлагая дополнительные рекомендации. По его словам, это создаёт риск использования подобных систем злоумышленниками.

В Moonshot заявили, что приветствуют независимую оценку своих разработок и рассматривают обратную связь от Mindgard как важный элемент повышения безопасности. Компания подчеркнула, что в ходе собственных тестов модели чаще всего отказывались выполнять подобные запросы, однако согласилась обсудить результаты исследования с британскими коллегами. Эксперты отмечают, что джейлбрейкинг представляет собой иной тип угрозы, чем недавние инциденты с автономными ИИ-агентами, разработанными американскими компаниями. В отличие от них, процесс взлома ограничений требует значительных усилий и времени, но может быть использован хакерами для кибератак. Mindgard также предупредила, что после обхода защиты Kimi K2.6 теоретически может запускать код и подключаться к интернету, что превращает её в потенциальный инструмент для атак.

Дискуссия вокруг инцидента усилила споры о том, какие модели безопаснее — закрытые проприетарные системы вроде ChatGPT и Claude, или открытые модели с доступными весами, к которым относится Kimi. Профессор Университета Саррея Алан Вудворд отметил, что открытые модели могут попасть в руки злоумышленников, но при этом способны эффективно использоваться для защиты от атак. Он подчеркнул, что международное регулирование вряд ли будет успевать за стремительным развитием технологий, и призвал уделять больше внимания ответственности людей, применяющих ИИ в преступных целях.

Изображение сгенерировано ИИ