Тест Тьюринга 2.0

Автор: . Рубрика: Разумный мир. Опубликовано: 18.06.2009, 18:52.

Говорят, машинный «разум» не сегодня-завтра пройдет тест Тьюринга. Будет ли это означать, что машины обрели разум? Нет, конечно: подразумевается гораздо более скромная задача – качественная имитация человеческого разума. Разработчики систем искусственного интеллекта пока не знают, как научить машину осознавать саму себя, как воспроизвести удивительный феномен «Я есть», знакомый каждому человеку независимо от его IQ. Впрочем, секрет самоосознания человека также до сих пор не раскрыт…

Однако когда тест Тьюринга будет все-таки пройден – именно достижение стадии самоосознания, скорее всего, назовут главной задачей и основным критерием дальнейшего «очеловечивания» машин.

Цена вопроса

Итак, продолжим тему взаимоотношений людей и роботов. Вопрос о том, будут ли роботы когда-нибудь осознавать себя – и что может послужить доказательством этого превращения – выходит далеко за рамки чисто научных споров. Так, еще в 2007 году правительство Южной Кореи обсуждало разработанную местными футурологами т.н. этическую хартию, регулирующую отношения между людьми и роботами. Она включала в себя не только известные законы робототехники Айзека Азимова, но и положения, защищающие роботов от жестокого обращения, регламентирующие брачные, сексуальные отношения между людьми и роботами и т.д.

Вспомним также прогноз британских исследовательских компаний Ipsos-MORI и Outsights и Института будущего (США), подготовленный в 2006 году по заказу британского правительства. Исследователи пришли к выводу, что понадобится от 20 до 50 лет, чтобы роботы обрели не только гражданские права, но и такие обязанности, как участие в выборах, уплата налогов и служба в армии.

Разумеется, чтобы получить такие права и обязанности, роботы должны обладать свободой выбора. А свободен в своем выборе только тот, кто осознает себя. Без выполнения этого условия говорить о равенстве людей и роботов не только бессмысленно, но и опасно (для людей). Ведь в будущем вполне могут сформироваться экономические и политические силы, заинтересованные в том, чтобы не достигшие стадии самоосознания роботы были признаны (по формальным критериям) осознающими себя – и, следовательно, равными людям. Например, некая финансово-технологическая клика может с помощью контролируемых ими «разумноподобных» роботов изменить расклад голосов на выборах и «продавить» непопулярные среди избирателей-людей законы. Подобный сюжет – не новость на этой планете: сколько раз в прошлом диктаторы приходили к власти через демократические выборы, играя на бессознательных инстинктах толпы (множества людей, не осознающих своих истинных интересов и подверженных манипуляциям)…

Игры в разум

Итак, рано или поздно мы научим робота общаться и вести себя, как разумное существо. Возможно, его разработчик будет весьма убедительно уверять нас: «Господа! Моя искусственная нейронная сеть по объему накопленных единиц опыта и ассоциативности давно не уступает человеческому мозгу. А вчера я успешно интегрировал в эту сеть чип самосознания!» Как нам убедиться в том, что этот робот действительно осознает свое «Я» – так же (или примерно так же), как человек? Задача нетривиальная, если учесть, что стопроцентных доказательств не даст даже перенос человеческого сознания на машинные носители (если он в принципе когда-нибудь станет возможен).

Предположим, что «информационный слепок» вашей личности был перенесен на машинный носитель. Некоторое время ваше «Я» действовало в теле робота – и затем, обогащенное пережитым опытом, вернулось на привычный биологический носитель. Возможно, вы с энтузиазмом станете убеждать окружающих: «О, да! Я осознавал себя в теле робота! Это было так необычно». Однако, успокоившись, вы, как добросовестный исследователь, отдадите себе отчет в том, что на протяжении эксперимента ваша личность поверглась двойной «конвертации». Следовательно, существует далеко не нулевая вероятность того, что осознавание своего «Я» в теле робота было иллюзией пост-восприятия. Другими словами:

1. На самом деле, ваше «Я» исчезло на пороге машинного носителя, а вы сами впали в кому.
2. Робот говорил и действовал согласно собственным машинным алгоритмам, опираясь на переданную ему «голую» информацию о вашей личности.
3. Попутно робот накапливал новую информацию о внешних и внутренних событиях. Внешние события фиксировались его сенсорами, а события его «внутреннего мира» представляли собой логические и эмоциональные реакции на внешние раздражители. Да-да, робот может вести себя, как эмоциональное существо (когда в ответ на определенные раздражители вызываются подпрограммы «страха», «удивления», «счастья» и т.п.) – но при этом абсолютно не осознавать себя.
4. Когда накопленная новая информация в конце опыта была передана вашему мозгу, вы автоматически интерпретировали ее как опыт, реально пережитый вашим «Я» (потому что человеческий мозг иначе не умеет обрабатывать такого рода информацию). Иными словами, у вас возникла иллюзия, что вы осознавали себя в теле робота.

Кстати, если технологии конвертации сознания когда-нибудь станут реальностью, то правомерность приведенных выше рассуждений подтвердит простой эксперимент. Можно взять «слепок личности» робота и перенести его полностью или частично в человеческий мозг (подчеркну на всякий случай: робот и человек прежде «не встречались»). Если у человека возникнет иллюзия, что он раньше «жил» в теле этого робота – значит, ошибка пост-восприятия при двойной конвертации сознания имеет место быть.

Справедливости ради добавлю, что если когда-нибудь технология переноса сознания на машинные носители станет массовой – это может привести к общественному признанию осознанности роботов вопреки вышеописанному парадоксу. Почему? По той же самой причине, по которой мы, люди, признаём существование других людей.

В самом деле: откуда вы знаете, что я – не плод вашего воображения? Что я существую на самом деле? Что у меня тоже есть свое «Я», которое так же иногда задается вопросом в «камере-одиночке» своего тела: а существует ли внешний мир и другие люди?

Все мы иногда задавались этим вопросом. И никогда не сможем получить на него ответ (по крайней мере, до тех пор, пока люди не научатся объединять свои сознания). Тем не менее, мы верим, что другие люди существуют. Я думаю, мы верим в это вовсе не потому, что у нас нет другого выхода. Полагаю, работает эффект сопоставления наших представлений о мире.

Каждый человек автоматически формирует личную картину мира. И бессознательно ее «тестирует» на предмет противоречий (это необходимо ему для выживания). При этом слова и поступки других людей имеют особый статус – ведь они отражают их автономные картины мира и помогают человеку уточнять личную картину мира (то есть – выживать). Человек бессознательно сравнивает свою и чужие картины мира – и, естественно, находит различия. Обнаружив полезные для себя различия, человек перенимает чужой опыт и взгляд на мир. Но, постоянно обнаруживая различия — человек не находит между разными картинами мира фундаментальных противоречий (т.е. противоречий на уровне законов природы). Это и служит ему доказательством того, что внешний мир и другие люди – существуют. Ведь если бы других людей не существовало на самом деле, и жизнь напоминала сон – мы бы постоянно натыкались на абсурдные противоречия в образах мира (и – пробуждались?!).

Более простой пример. Я не могу быть уверен, что вижу цвета предметов «правильно», «как другие люди». Я даже не могу быть уверен, что не являюсь по отношению к другим людям дальтоником, что доступное мне «разноцветие» – не есть на самом деле набор «градаций серого» с точки зрения других людей. Однако сравнение картин мира, постоянно осуществляемое на бессознательном уровне, дает мне понять: с моим цветовосприятием все в порядке.

Точно так же массовый опыт переноса сознания на машинные носители, сравнение своих переживаний с переживаниями других людей может привести к тому, что люди признают де факто способность роботов осознавать себя.

Вся проблема в том, что даже если конвертация сознания возможна в принципе – она будет осуществлена никак не раньше появления истинно разумных роботов (а, скорее, намного позже). Поэтому нам нужен более простой тест, близкий к классическому тесту Тьюринга.

Как проникнуть во внутренний мир робота?

Напомню Стандартную интерпретацию теста Тьюринга: «Человек взаимодействует с одним компьютером и одним человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает: с человеком или компьютерной программой. Задача компьютерной программы – ввести человека в заблуждение, заставив сделать неверный выбор».

Как видим, простое редактирование теста: «…ввести человека в заблуждение, что собеседник осознает сам себя…», – порождает лишь очередной виток «гонки имитаций», очередной этап состязания между разработчиками и тестерами: кто из них окажется умнее?

Полагаю, решение задачи заключается в том, чтобы развернуть тест на 180 градусов: позволить роботу тестировать человека. И посмотреть, как он это делает. При таком повороте тест может выглядеть следующим образом.

Искусственный интеллект (AI) задает вопросы человеку и по ответам пытается понять: осознает ли себя собеседник или является бессознательной компьютерной программой. В конце эксперимента AI оглашает свой вердикт и объясняет, как он пришел к своим выводам. Ход его рассуждений оценивает человеческий «суд присяжных», который и делает вывод об «истинной разумности» AI. В случае сомнений «суд присяжных» повторяет эксперимент необходимое количество раз.

Как видим, тест распадается на два этапа. При этом для целей теста совершенно не важно, назовет ли AI человека человеком или роботом. Давно стало секретом Полишинеля, что люди, запутавшись в прошлом и будущем – нередко ведут себя бессознательно в настоящем. Так что участвующий в тесте человек при определенном умонастроении вполне может сойти за бездушного робота. Суть теста не в том, чтобы поймать нашего соплеменника на утрате связи со своим «Я». Суть теста в том, чтобы поймать на этом искусственный интеллект.

Попробуйте, ни разу не побывав в космосе, понять, бывал ли там ваш собеседник, выдающий себя за космонавта. Попробуйте проверить профессионализм другого человека, если вы никогда не сталкивались с его профессией. Как бы вы ни были логичны и последовательны, ваши собеседники быстро поймут, что вы не имеете представления о том, о чем спрашиваете. Точно также не имеющий сознания AI выдаст себя с головой, едва начнет искать в человеке то, что незнакомо ему по собственному опыту.

Участие в эксперименте «суда присяжных» имеет не только практическое, но и символическое значение: в сущности, обычный суд присяжных также решает, позволить ли данному существу жить среди людей.

Символично и предоставляемое искусственному интеллекту право протестировать разумность человека. Если мы хотим втянуть роботов в наши человеческие игры – то должны предоставить им возможность выбора: считать нас разумными – или нет.





Спасибо всем, кто добавляет мои посты в "Фейсбук"!



...и поднимает их в поиске Gооgle с помощью кнопки "+1"!