Глава OpenAI Сэм Альтман заявил, что человечество может потерять контроль над искусственным интеллектом не только из-за злого умысла или выхода технологий из-под контроля, но и “совершенно случайно”. В подкасте MD MEETS с главой Axel Springer Матиасом Дёпфнером он описал второй сценарий, который, по его словам, недооценивается.
“Это можно осознать, представив, что происходит с ChatGPT прямо сейчас. Сотни миллионов людей общаются с ChatGPT, скоро их будут миллиарды. И люди все больше полагаются на его ответы — при принятии важных решений в жизни, на работе, во всем”, — объяснил Альтман.
По его словам, пользователи ChatGPT становятся все более зависимыми от искусственного интеллекта. “Предположим, модель становится все умнее и умнее, дает вам советы, которым вы почти всегда следуете. Потом она становится еще умнее. И теперь дает вам советы, которые вы даже не понимаете, но они оказываются правильными. И в итоге у вас выбор: либо следовать, либо проигрывать в конкуренции”, — добавил Альтман.
В такой ситуации, отмечает глава OpenAI, люди начинают действовать по указанию ИИ, даже не осознавая этого. “В конце концов мы все делаем то, что говорит нам ассистент с искусственным интеллектом. По крайней мере те, кто хочет оставаться конкурентоспособным”, — отметил он.
Альтман добавил, что это создает “петлю обратной связи”: чем больше мы слушаемся ИИ, тем больше данных он получает, учится и становится еще сильнее.
“Кто вообще тогда контролирует процесс? Получается, что мы делаем то, чего хочет модель”, — резюмировал он.
