Взывая к разуму

Post annum MMVII
После "Трилогии"




Взывая к разуму

ВЗЫВАЯ К РАЗУМУ

Восемь месяцев назад, побывав на "Дне науки 0+", написать этого текста я не смог. Хотя и собирался и даже пробовал. Но что-то не срослось тогда - наверное, я думал об ином. Вообще, саму проблему "подмены роботом человека" философский мир обсуждает уже давно, и только одному мне надо узнать, что когда робота, двойника телеведущей, Сюзанны, встретившегося с самой Сюзанной в эфире, другой телеведущий, Пирс, попросил произнести фразу, «Пирс, ты совершенно прав во всём», - то робот, произнеся фразу и обратившись к своему "оригиналу", добавила: «Сюзанна, нормально ли, что я так сказала?», - чтобы и я всерьез задумался о происходящем. А на Дне науки я чуть не взрывался негодованием, что два заслуженных ученых мужа и одна не менее заслуженная ученая дама всерьез обсуждали, что компьютеры научились обучаться, они выиграли человека во все, какие только возможно, игры (покер и go - не говоря уже о шахматах), и в связи с этим насколько актуален вопрос «будут ли андроиды грезить электроовцами», что рано или поздно искусственный интеллект потеснит самого человека. На следующий, кстати, день Александр, знакомый с биофака, рассказал анекдот, что некая нейронная сеть уже уволила с работы своего создателя - и тот не может восстановиться, - и я ржал, потому что, наверное, это и было самым светлым из всего услышанного в сюжете. Однако я не взрываюсь негодованием ныне, потому что проблема - она не надумана, не высосана из пальца, - однако она не в том, что робот займет место человека: в том, что он (робот, не человек) нечаянно порушит мир. Потому что между живым и неживым есть одно маленькое, но фундаментальное отличие (и это и есть рубеж, через какой искусственный интеллект перешагнуть не в силах) - системообразующий фактор активности: так, если человек (да и всё живое) наделено чувственностью (мы стремимся к удовольствию и бежим боли), то машине этого просто не дано. Однако системообразующий фактор активности у робота, тем не менее, есть (он заложен, он прописан в программе), - и быть он может всем чем угодно, вплоть до случайного числа. И главная опасность роботостроения и состоит в том, что при самой сложности системы учесть все возможные модели поведения робота невозможно: среда бесконечно многогранна, ее невозможно спрогнозировать полностью - и, стало быть, невозможно исчерпывающе спрогнозировать, как системообразующий фактор поведет себя в незнакомой обстановке. Собственно, всё это (я также читал об этом в какой-то сводке новостей) прекрасно понимают изготовители сексуальных роботов: к примеру, они задаются вопросом, не навредит ли в порыве "страсти" партнеру робот, способный стиснуть руку в пять раз сильнее человека. Я, кстати, прошу прощения, если недопонял тех, кто выступал на лекции: быть может, они говорили о том же, о чём глаголю сейчас и я. Но я был в неадеквате - меня выбили из рабочей колеи и я долго не мог восстановиться.

2019, июнь