Главная > Новини / Загадки, проекти, відкриття > Глава OpenAI предупредил о возможности “случайного захвата мира” искусственным интеллектом
Глава OpenAI предупредил о возможности “случайного захвата мира” искусственным интеллектомСьогодні, 12:00 |
Глава OpenAI Сэм Альтман заявил, что человечество может потерять контроль над искусственным интеллектом не только из-за злого умысла или выхода технологий из-под контроля, но и “совершенно случайно”. В подкасте MD MEETS с главой Axel Springer Матиасом Дёпфнером он описал второй сценарий, который, по его словам, недооценивается. “Это можно осознать, представив, что происходит с ChatGPT прямо сейчас. Сотни миллионов людей общаются с ChatGPT, скоро их будут миллиарды. И люди все больше полагаются на его ответы — при принятии важных решений в жизни, на работе, во всем”, — объяснил Альтман. По его словам, пользователи ChatGPT становятся все более зависимыми от искусственного интеллекта. “Предположим, модель становится все умнее и умнее, дает вам советы, которым вы почти всегда следуете. Потом она становится еще умнее. И теперь дает вам советы, которые вы даже не понимаете, но они оказываются правильными. И в итоге у вас выбор: либо следовать, либо проигрывать в конкуренции”, — добавил Альтман. В такой ситуации, отмечает глава OpenAI, люди начинают действовать по указанию ИИ, даже не осознавая этого. “В конце концов мы все делаем то, что говорит нам ассистент с искусственным интеллектом. По крайней мере те, кто хочет оставаться конкурентоспособным”, — отметил он. Альтман добавил, что это создает “петлю обратной связи”: чем больше мы слушаемся ИИ, тем больше данных он получает, учится и становится еще сильнее. “Кто вообще тогда контролирует процесс? Получается, что мы делаем то, чего хочет модель”, — резюмировал он. Вернуться назад |