Правительство США приняло решение приостановить работу моделей искусственного интеллекта Fable 5 и Mythos 5 компании Anthropic. Это первый случай, когда ведущие ИИ-модели фактически выводятся с рынка по решению государства.
Всего два месяца назад Anthropic представила Mythos — модель, которая на сегодняшний день считается одной из самых мощных и эффективных в сфере ИИ. Однако, поскольку ее возможности оказались чрезвычайно высокими и она могла выявлять неизвестные уязвимости в защищенных электронных инфраструктурах, компания не стала открывать к ней широкий доступ. Вместо этого модель была предоставлена крупным корпорациям для обнаружения и устранения слабых мест. Для массового использования Anthropic разработала Fable 5 — более слабую и предсказуемую версию — и несколько дней назад представила ее пользователям. Однако выяснилось, что даже эта «облегченная» модель, по мнению правительства США, несет серьезные риски, в связи с чем ее широкое использование должно быть приостановлено.
Примечательно, что буквально накануне инженеры Anthropic опубликовали объемную статью, в которой отмечали, что темпы развития ИИ продолжают ускоряться и в ближайшем будущем может возникнуть проблема утраты контроля над такими системами. Авторы пришли к выводу, что дальнейшее развитие ИИ следует эффективно замедлить. Похоже, правительство США «услышало» архитекторов Anthropic и приостановило работу именно их передовых моделей.
