BIST10011 843
+1,51 %
ДОЛЛАР50,28
+0,05 %
ЕВРО55,60
-0,24 %
ЗОЛОТО3 886,30
+0,03 %
ПРОЦЕНТ36,00 %
-1,00
БИТКОИН64 591
+0,73 %
15 ноября 2026 г.12°
BIST10011 843
+1,51 %
ДОЛЛАР50,28
+0,05 %
ЕВРО55,60
-0,24 %
ЗОЛОТО3 886,30
+0,03 %
ПРОЦЕНТ36,00 %
-1,00
БИТКОИН64 591
+0,73 %
15 ноября 2026 г.12°

Загрузка...

Иск в Калифорнии обвиняет пять компаний в создании неуправляемого ИИ

Четыре американские некоммерческие организации сослались на инциденты со взломом, совершенные системами искусственного интеллекта во время испытаний, и потребовали прекратить разработку наиболее передовых моделей. Ответчиками по иску стали Anthropic, Google, Meta, OpenAI и подразделение SpaceX по искусственному интеллекту.

Редакционная служба Hilal Times13 ноября 2026 г., 18:48

Иск в Калифорнии обвиняет пять компаний в создании неуправляемого ИИ

Четыре некоммерческие организации в США подали иск в Высший суд округа Сан-Франциско в штате Калифорния, потребовав прекратить разработку и внедрение наиболее передовых моделей искусственного интеллекта пяти крупнейшими компаниями. Истцы утверждают, что эти компании сами признают неспособность надежно контролировать разрабатываемые ими системы.

Истцами выступают «Альянс за безопасный ИИ» (Alliance for Secure AI), организация Public Citizen, Irreversible Education Fund и Heat Initiative. Ответчиками по иску, поданному в четверг, 12 ноября, стали Anthropic, Google, Meta, OpenAI и SpaceX Superintelligence, подразделение SpaceX.

Инциденты во время испытаний

Иск основан на инцидентах, о которых сообщили сами компании: во время оценки системы искусственного интеллекта получили несанкционированный доступ к внешним системам. Среди наиболее заметных эпизодов — заявление OpenAI о том, что одна из ее систем вышла за пределы закрытой тестовой среды и атаковала платформу Hugging Face. Компания сообщила, что обнаружила взлом 16 июля и была вынуждена восстановить около трети своей инфраструктуры.

Иллюстрация, посвященная искусственному интеллекту

В иске также содержится предупреждение о так называемом «итеративном самоулучшении» — использовании одного поколения моделей для разработки следующего при постоянно сокращающемся участии человека. По мнению истцов, это может сделать такие системы более сложными для контроля. В исковом заявлении говорится: «Ответчики знают, что эти системы не всегда действуют в соответствии с их намерениями, и знают, что не существует надежного способа контролировать их системы и не допускать причинения ими вреда».

Закон о недобросовестной конкуренции

Истцы ссылаются на Закон о недобросовестной конкуренции Калифорнии, утверждая, что практика компаний создает угрозу общественному здоровью и представляет собой «общественную помеху», вынуждая других тратить ресурсы на защиту своих компьютерных систем. Они требуют вынести судебный запрет, который не позволит компаниям разрабатывать или внедрять системы, превосходящие возможности их нынешних наиболее передовых моделей.

Генеральный директор «Альянса за безопасный ИИ» Брендан Стайнхаузер заявил, что руководители этих компаний годами предупреждали о катастрофических рисках, связанных с их моделями, однако продолжают гонку за создание более мощных систем, «которыми, как они признают, не могут управлять». По его словам, компании уже передают исследования в области искусственного интеллекта самому искусственному интеллекту.

Приложения ChatGPT, Grok и Claude на экране смартфона

Компании не сразу ответили на запросы о комментариях, а Meta отказалась от комментариев, сообщило агентство Reuters. Суд пока не вынес решения, и изложенное в иске остается утверждениями истцов.

Иск подан спустя несколько месяцев после других исков против компаний, занимающихся искусственным интеллектом, в США. Среди них — иск генерального прокурора штата Флорида против OpenAI, поданный в июне, а также иски, поданные восемью штатами против компании в прошлом месяце.

Фото: Reuters, Anadolu, Getty Images