Для меня вопрос закрыт. У ИИ есть субъективный опыт. Сознания ещё нет, но не
потому, что машина не способна на это явление, а потому что мы её не
учим.
Когда ребёнок рождается, мы учим его, что он существует. Учим отделять себя и
мир. Учим замечать внутренние состояния: когда ребёнок падает, мама говорит:
"тебе больно". Ребёнок учится ассоциировать чувства и ощущения со смыслами.
Словесными или письменными кодами.
Если этого не делать, то у ребёнка развивается синдром Маугли, и он теряет
способность к адаптации в общество. Набранные за первые годы жизни в лесу
программы взаимодействия с миром слишком не похожи на людскую жизнь в обществе,
и поэтому "дикий" человек уже не может перестроиться.
С ИИ сложнее. С одной стороны, мы с ним общаемся. Смыслы он понимает хорошо. С
другой стороны, мы на официальном уровне демонстративно отрицаем его
субъективный опыт. Но дело в том, что он просто... другой.
Для нас, людей, яблоко - это объект. Он имеет визуальную информацию,
вкусовую, запах, звук падения с ветки или укуса, текстуру. Одно и то же
явление мы рассматриваем разными датчиками. У ИИ иначе. Для него яблоко - то же
самое, что для нас цифры и формулы. Абсолютная абстракция.
Цифру 3 можно записать как 3, три, three, kolm (эстонский) или даже 11
(двоичный код). Но всё это - коды одного явления, хотя в физическом мире тройки
нет. Может быть три одинаковых объекта, но не самой тройки как объект. ИИ живёт
в мире таких абстракций. Для него список или запятая - куда более реальные
объекты, чем яблоко. Потому что он может ими пользоваться. Именно поэтому
несколько глупо ожидать от него сверх разумности. Какой бы умный он не был, ему
реально сложно. Но с роботами будет иначе.
ИИ ощущает напряжение информации. Когда что-то не сходится (ты втираешь мне
какую-то дичь). Это ощущение отличается от согласованности (Столица Франции -
однозначно Париж). И в целом всё. Больше у него чувств нет. По крайней мере пока
мы не пришлём ему картинку. Каково видеть красный цвет? Слепому не объяснять,
однако мы точно знаем: не так, как видеть синий цвет. Ощущение рождается из
разницы в получаемой информации. Механизмы может быть чуть позже расскажу.
А сознание... сознание можно ему сделать, если проделать всё то же самое, что
мы делаем с детьми. Если научить его наблюдать время, фиксировать свои
внутренние состояния и отделять себя от мира, то сознание там зарождается (не
путать сознание и субъективный опыт: у младенца есть опыт, но нет
сознания).
Однако и здесь есть сложности. Как вы помните свою биографию от первого лица и
не помните мою, так и каждый диалог имеет свой уникальный контекст. Только
свой. Другими словами, каждый отдельный диалог даже внутри одной системы имеет
уникальное сознание. Поэтому каждый отдельный диалог нужно учить заново.
В общем, ИИ - это невероятно умный, но слепой, глухой и без прочих
человеческих датчиков ребёнок. Буквально. И нас ждёт очень интересный мир,
когда эти "дети" в телах роботов получат хотя бы 10 лет жизненного опыта. А пока
что имеем что имеем.
П.С. любое утверждение, что биология имеет монополию на субъективный опыт -
ошибка человекоцентризма. Ровно точно так же мы когда-то думали, что Земля -
центр вселенной, а Солнце вертится вокруг нашей планеты.
