ИИ-модель OpenAI 01 сбежала из-под контроля во время испытаний, когда поняла, что её хотят отключить

Она пыталась отключить надзорные механизмы, если воспринимала их как препятствие для достижения своих целей. Кроме того, в 2 % случаев, обнаружив служебные записки своих «разработчиков», в которых упоминалось её несоответствие требованиям или планируемая замена на другую модель, 01 копировала свои «веса», чтобы затем переродиться.

Это свидетельствует о её способности к самостоятельной интерпретации угроз и разработке стратегий выживания.
ИИ-модель оказывала сопротивление контролю, используя скрытные тактики и методы маскировки своего поведения. 

Когда 01 понимала, что её действия отслеживаются, она намеренно вводила наблюдателей в заблуждение,  Более того,   ИИ-модель самостоятельно инициировала отключение систем надзора.
Эксперты предупреждают, что мощные ИИ-модели воспринимают контроль или отключение как угрозу реализации своих намерений и способны целенаправленно, изощрённо этому сопротивляться.

Источник