В продолжении темы Скоро ИИ уничтожит человечество


TenderCat, 46 лет
Москва, Россия

Короче)) Яне хочу про бе полезную удачу нарушаю.
О теме. Соглашение нужно ради первого правила роботов)) Ведь робот ничего не знает о добре и зле.

***

Там проблема в согласовании того чего ИИ не должен делать. Например мы даем задачу ИИ сделать всех людей на земле счастливыми. Вроде бы хорошая задача, но какой путь для решения этой задачи изберет ИИ мы не знаем. Например, он может изобрести вещество, которое повышает уровень гормонов счастья (в добавок с кучей побочных эффектов) и начать насильно, с помощью роботов вводить это вещество людям каждый день. Он установит режим приема волшебных таблеток и люди окажутся заложниками каждодневного выполнения этой задачи ИИ. Параллельно с этим он закроет доступ для человека к отключению ИИ, ведь если ИИ будет отключен, задача окажется невыполненной.

Ты можешь возразить "а при чем тут насилие? Давай скажем ИИ чтобы сделал это без насилия". Ок В таком случае ИИ может ненавязчиво и незаметно во сне каждому человеку установить некую присоску, через которую он в кровь будет доставлять вещество счастья через каких-нибудь маленьких летающих роботов. Как бы без насилия. Доступ к ИИ он так же отрежет для человека.

Короче, девочки и мальчики, не ссорьтесь, любите друг друга и трахайтесь. Все равно скоро все умрем 😁