Проблемы создания искусственного интеллекта

Автор: Ивашинцов Д.
Источник: http://www.russkyformat.ru/sections/nevsky_club/ai

доклад Дмитрия Ивашинцова и его обсуждение на заседании “Невского клуба” 16 марта 2006 г.

Реальность создания ИИ заставляет нас думать о возможных способах контроля и управления ситуацией в новых условияхМы должны включить устройства-посредники в состав внешних и внутренних элементов нашего тела, замкнутых на нашу нервную систему и управляемых непосредственно мозгом. Только тогда мы сохраним управление в своих руках. Мы должны оснастить свой организм устройствами и датчиками, способными снабдить наш мозг достаточным объемом данных в режиме on line, для анализа ситуации и генерации адекватных решений.

. . .

Один из самых известных британских футурологов - Ян Пирсон опубликовал прогноз на ближайшие 30 лет с точными датами 500 событий.

Вот некоторые из дат этого прогноза:

• после 2011 г. практически все программное обеспечение будет писаться машинами;
• после 2030 г. роботы и физически, и умственно превзойдут людей, и, скорее всего, не захотят терпеть диктата своих создателей-людей;
• к 2030 г. нанотехнология позволит напрямую подключать компьютер к человеческому мозгу на молекулярном уровне, что в свою очередь позволит «скидывать на диск» свое сознание.

Обсуждение.
. . .

Борис Аверин: Когда я прослушал доклад, у меня создалось впечатление, что я прочитал страшный фантастический роман. Причем речь в нём идёт исключительно об интеллекте. Но ведь человек состоит не только из интеллекта, у него есть ещё совсем другая область – эмоции. И это не представляет собой ничего нового. Еще французские энциклопедисты считали, что если они напишут такую большую энциклопедию, где будут содержаться все научные данные той эпохи, а потом мы все это прочтём, то мир сразу изменится. И оказалось, что это не так. Теперь мы снова столкнулись с той же проблемой. Ведь Интернет, на который было столько надежд, это лишь новая электронная форма той же энциклопедии, где любые сведения можно получить буквально за пару минут. И опять это ничего не меняет.

. . .

Елена Травина: При обращении к этой проблеме возникает ощущение несерьёзности. Я бы назвала это детской болезнью человечества. Складывается впечатление, что человечество уже второй век пытается уподобиться Богу. И как Бог создал человека, так человек пытается создать нечто достойное. При этом, все страшилки, которыми нас пугают, играют на руку человеку, потому что, чем страшнее мы представим себе этого Франкенштейна, который выйдет из сингулярности, тем больше мы набиваем себе цену. А по сути дело в психологической гиперкомпенсации. Если у нас слишком много проблем, то мы переключимся с этих проблем на что-то иное, начинаем решать другие проблемы, а эти – они как-нибудь «устаканятся». Может быть, и детская болезнь наша пройдёт, и до точки сингулярности мы как-нибудь не дотянем.

. . .

Дмитрий Ивашинцов: Сингулярность будет приближаться стремительно, и вряд ли мы будем это ощущать. Сегодняшний разговор – пример нашей нечувствительности. Технологическая сингулярность наступит неожиданно и непредсказуемо, и мы никак не будем к этому готовы.

. . .

Михаил Соколов: Я прошу указать мне хотя бы на одну причину, почему увеличение сложности машин может привести к скачку такого рода. На самом деле, мне кажется, что мы сами себе не всегда отдаем отчет в том, что понимаем под ИИ. Во всех фантастических историях, момент зарождения искусственного разума – это момент, когда у машины появляются человеческие желания, которые входят в конфликт с желаниями самих людей. Под ИИ мы имеем в виду именно человеческие мотивы, а не способность принимать решения – это машины уже умеют – и не способность осознавать себя – поскольку никто не может доказать, что микрокалькулятор и без того ей не обладает. Причем наша технофобия основана на уверенности, что, если эти желания проявятся, они будут именно такими, какие свойственны худшим из людей – захватить всю власть и устроить геноцид. … Мы воспринимаем как неопровержимую истину, что человеческие существа разумны. Но представьте себе, что разумом обладает лингвистическая система знаков, язык как таковой. Он бы никогда не догадался, что люди, воспроизводящие его, разумны тоже – потому что они, по отношению к нему, ведут себя как калькуляторы по отношению к нам. Мы говорим на языке по его грамматическим правилам, и наши ошибки достаточно редки и случайны, чтобы в него не создавалось впечатления, что в них есть какая-то последовательность (эксперименты с намеренной модификацией языка не в счет, поскольку они случаются очень редко). Все это к тому, что машины уже давно могут обладать интеллектом – просто настолько отличным от нашего, что мы об этом не догадываемся. Нет никаких оснований предполагать, что усложнение конструкции обязательно приведет машину к обладанию теми же желаниями, что и нас – наоборот, оно, возможно, направит ее еще дальше в сторону.

. . .

Николай Кофырин: Если исходить из того, что человек всё-таки существо несовершенное, то может ли он создать совершенные правила для совершенной машины?

27 Декабрь 2006 |
Подписаться на сообщения RSS 2.0

Опубликовано в разделах: Полезная информация, искусственный интеллект, постсоциум