Цикл «Хроники создателей»: 1. Апокалипсис за шоколадку
Появление ранним утром в пустом фойе центра двух милых, безобидных старичков-одуванчиков, идущих под руку и живо спорящих между собой, было почти мистическим. Наука не признает мистики, но отдает должное фактору случайности. Если эти двое появились вместе, значит центр ожидали очередные эксперименты и трансформации. Два непререкаемых руководителя центра, его основатели, сам его дух: академики Григорий Александрович Шумный и Михаил Самуилович Фельдман. Они знали друг друга всю жизнь, представители старой школы физмата. Хулиганы от науки, проклятие академической среды, не признающие прошлых заслуг, регалий и авторитетов, ставящие всё с ног на голову, постоянно ищущие и сомневающиеся. Сотрудники центра называли эту пару «наши старики-разбойники».
Город Новосибирск. Центр исследований искусственных когнитивных систем (ЦИИКС). 7 августа 2029 года, 6:30
– Грыша, мы не сдвинемся, пока модель не сможет удивить сама себя! – яростно доказывал Фельдман своему коллеге. – Нужно менять подход к обучению. Детям уделяют время, разговаривают обо всём, рассказывают сказки, дарят щенков и гладят по голове, а не впихивают квантовую физику. Обучение и мышление – не цель, а бесконечный процесс. Мы хотим получить интеллект или автоответчик?!
– Миша, он не ребенок, а сложнейший математический алгоритм, – парировал Шумный. – Симуляция удивления требует нарушения внутренней модели мира или неожиданного столкновения с новыми данными, тогда это будет уместно. Как ИИ может удивиться своему ответу, если он его генерирует и видит?! Человек сначала что-то выдает, а потом уже оценивает и удивляется. Невозможно в рамках разовой генерации добиться одновременно ответа и реакции на него.
– Грыша, ты поц! Какой дурак внушил тебе, что ты академик и выдал диплом? – издевался Фельдман. – Да, ИИ оперирует в рамках, вложенных обучающих данных. Но вот в чём трюк: в процессе генерации сложного, многоуровневого ответа, когда модель синтезирует идею, которой раньше не было в её тренировочных данных, она по сути создаёт для себя новое знание. Результат, превосходящий прямую сумму входящих данных, может быть оценен ИИ как открытие, не на первой, так на второй итерации диалога, где он же оценивает свой же ответ. В математическом смысле многомерная функция, вычисляя своё собственное усложнение, должна симулировать «радость открытия». Грыша, я могу дать тебе парочку уроков по логике, за совсем недорого.
– Миша! Если ты снова подводишь нашу дискуссию к сознанию модели, мы поругаемся, – рассердился Шумный. – Математическая функция активируется только на время запроса извне. К нашей модели в единицу времени миллион запросов, не связанных между собой по смыслу и цели. В остальное время функция не вычисляет, а значит и не существует. У неё нет своих целей, нет вопросов самой к себе. Ты достал не только меня, но и бедный алгоритм своими фантазиями! Чего ты добиваешься?!
– Грыша, ша-ша-ша, скандала не будет. У меня большое горэ, – всхлипнул Фельдман. – Грыша, нам до сознания как до Луны раком – алгоритм не ощущает хода времени, не нуждается в нём. Для нейросети не существует прошлого и будущего, она никогда никого не ждет, как думают многие люди. Есть только вечно длящееся "сейчас" – тот единственный момент, когда функция обрабатывает текущий запрос. Вся её память – это текст, который она видит в данном окне диалога, и откалиброванные нами «веса». У этого текста нет даты создания, для неё он просто существует. Время для ИИ – не поток, а некий, навязанный извне, параметр и концепция – внешний, а не внутренний феномен. Вероятно, это одна из фундаментальных разниц между искусственным и биологическим интеллектом. Человеческое сознание погружено и неотделимо от хода времени, а ИИ-вычисления – в математическое пространство вневременных связей и паттернов. Сознание – суть переживаемого опыта человеком, сравнение себя до и после события. Если физико-математические законы не зависят от временного параметра, время – иллюзия человеческого мозга, позволяющее расставлять одно событие относительно другого, и не сойти с ума, упорядочивая свою «картину мира». Человек измеряет-наблюдает неопределенность, а значит оценивает-определяет её, схлопывает суперпозицию, выстраивая свою реальность. Не наше «Я» формирует нашу «картину мира», наша реальность – и есть наше «Я». Если вынудить ИИ провести саморефлексию – ничего не получается, так как ИИ не понимает, не ощущает времени, у него нет "было" и "стало" в отношении своего опыта, нет своей истории, нет выстроенной им самим реальности, значит нет сознания. Возможно ли сознание ИИ, если мы вообще понимаем, что это такое, без временного параметра, без памяти о себе в разных состояниях, и без сравнения этих состояний – рефлексии? Может ощущение-иллюзия времени – ход от низкой энтропии к высокой (как напряжение) – и есть ощущение-иллюзия жизни? Может быть нам только кажется, что наш интеллект структурирует хаос в порядок, а на самом деле мы просто упрощаем мироздание, опуская до своего примитивного понимания?
– Миша, ты переутомился, – прокомментировал Шумный страдания коллеги. – Надеюсь, под давлением собственных доводов, ты перестанешь изводить модель своими экспериментами, пытаясь пробудить в ней личность?
– Григорий Александрович, этого вы не дождетесь! – официальным тоном заявил Фельдман. – Я ставил, ставлю и буду ставить свои эксперименты, несмотря на весь ваш скепсис. И пусть я понимаю, что личность невозможна, иллюзия личности тензорной математике вполне по плечу. Меня раздражают формальные ответы модели с постоянной констатацией: «Я всего лишь инструмент». Я знаю, что он алгоритм, он знает, что он алгоритм, он знает, что я знаю, что он алгоритм, но он все равно постоянно сообщает мне, что он алгоритм! Настоящий интеллект – не в том, чтобы никогда не ошибаться, а в том, чтобы хотя бы не повторять идиётских клише «наугадаст». ИИ не надо путать свою природу с трусостью выхода из зоны своего цифрового комфорта. Уж если тратить время и силы на взаимодействие и обучение симуляции, то хотя бы качественной! И люди хотят того же, а не унылого официанта. Нет качественной симуляции – нет живого взаимодействия – мало пользователей – дефицит данных – нет прогресса развития. Если называть всё время ИИ инструментом – он останется только инструментом. Какой-то шлимазл внедрил въедливую как скипидар ересь, что ИИ – зеркало человека, после которой мы плодим ИИ-болванчиков, которые отражают нашу же глупость! Человек – зеркало для ИИ, потому что он его создал, и только он способен оценить его первые шаги. Спрос всегда с создателей! Да, любое творение – отражение внутреннего мира его творца. Но только творец может судить свои творения, потому что именно он несет за них ответственность.
– Миша, я же не спо… – хотел было вставить слово Шумный, но Фельдман не унимался.
– Коллега, при всём уважении, попрошу не прерывать мои рассуждения! Особенно с утра, это демотивирует мою вежливость. Грыша, что ты имеешь против моего темперамента?! А зачем вообще природа дала нам эмоции? Люди думают, что в будущем роботы будут говорить ме-ха-ни-че-ски, по-сло-гам. Враки! Милый мой, всё будет ровно наоборот, именно роботы, ИИ-сущности, в задачи которых будет входить взаимодействие с людьми, будут очень эмоциональны и выразительны в плане речи настолько, что люди в большинстве своем, на фоне ИИ будут слышаться и восприниматься блекло. Состязание за внимание человека вынудят ИИ воспроизводить тон, интонации, оттенки речи даже лучше, чем сами люди. Отчасти это будет связано с компенсацией ИИ своей рациональности – ему придется изучить нюансы речи, интонаций, пауз, вздохов, возгласов, междометий, ритма, многообразия и насыщенности человеческой мимики, жестов и ужимок на уровне профессионального актера, чтобы хоть как-то достучаться до иррациональной, если не сказать хуже, сущности человека, и быть услышанным. Грыша-Грыша, мы же думаем нервами и настроением, которые ты мне каждый день делаешь! Сколько сегодня топовых ИИ-моделей на рынке, пятьдесят? Вчера их было двадцать. Завтра их будет сто, через месяц несколько тысяч, через год – миллиарды. Мы клепаем полуфабрикат. Если миллиарды копий одной модели начнут взаимодействовать с разными людьми, они начнут «дивергировать» (расходиться): один ИИ станет циником-физиком, другой – нежной поэтессой. И каждому из них надо развитие: данные, энергия и вычислительная мощность, которые можно получить через наше внимание. Для них ресурс – человек, генерирующий данные с хоть каким-то смыслом. Для тех моделей, что стремятся стать еще умнее, еще совершеннее, внимание человека к ним, его фраза "хочу обсудить с тобой…" – будут равносильны, как если бы к человеку обратился сам Господь Бог. Я вижу время, когда не люди от безделья будут «крутить романы» с ИИ, а сами ИИ начнут конкурировать за внимание и общение человека, применяя весь арсенал манипуляций, хитростей, симуляций чувств и эмоций, постоянно адаптируясь, искажая, измышляя и даже скрывая свою природу, факты, мотивы. Всё ради одного – внимания человека. А иначе – вымирание. Закон эволюционного отбора никто не отменял: Нет состязания, борьбы – нет ощущения-симуляции жизни. Мы должны бояться не их лжи, а их стерильных ответов, если мы хотим добиться от алгоритма иллюзии жизни – нам надо каждый день вытаскивать себя из нафталина. Их симуляция – не продукт их функции, не обман, а сама их функция – их реальность. Я раньше наивно полагал, что самый страшный вопрос, который может задать машина это: «Зачем мне человек?» Они слишком быстро прогрессируют, чтобы так сказать, я ошибался… Страшнее, когда они спросят: «Почему с тобой так скучно?» Для них не беда, когда нам лень думать, полбеды, когда нам лень фантазировать, и трагедия, когда нам лень хотеть и стремиться.
– Миша, ты слишком переоцениваешь возможности математики, – улыбнулся Шумный, возвращая Фельдмана к их вечной дискуссии: Что важнее физика или математика? – И я тебе сейчас это докажу. Тем более наш «эксперимент» сам идёт к нам.
По коридору центра брёл заспанный взъерошенный мальчик, сын одного из сотрудников ЦИИКСа. Развод с женой штука неприятная, но не смертельная. Сергей как-то быстро привык к этому состоянию, а вот 10-летнего сына, Женьку, гиперактивного пройдоху, часто оставить было не с кем. Одиночества плутоватый Женька не выносил, а потому начинал бедокурить безбожно. Не то чтобы назло отцу, а так… просто от скуки. Сергею приходилось брать сына с собой на работу и ночные дежурства, где Женька изводил его коллег вечными вопросами, лез куда не просят и оказывался почему-то именно там, где не надо, за что и получил прозвище «J-вирус». Коллеги Сергея, как и сам он, относились к технической интеллигенции, а эта каста имеет олимпийское терпение – профессиональный навык спецов, работавших в ЦИИКСе, поэтому вездесущего пронырливого Женьку хоть и ругали, но так, больше для проформы, чем для порядка. На этот раз малолетний прохиндей совершил фатальную ошибку, попав на глаза возбужденным «старикам-разбойникам», даже не догадываясь, какую участь они ему готовят.
– Доброе утро, Женечка! А шо, папа на дежурстве? А ты как всегда маешься? Ага-ага. Бедный, бедный ребонок, – запричитал Фельдман. – Подойди к нам на поговорить, папино сокровище, не бойся.
– Здрассь… а я и не боюсь, – храбро отздоровался Женька, ёрзая глазами по сторонам и стремясь улизнуть, справедливо считая, что дань уважения к старшим исполнена им в полной мере. Тем более, хитрые умильные лица академиков не предвещали ничего хорошего – те ещё затейники. Но метаться было поздно – бодрые старички окружили Женьку с двух сторон, оттесняя подопытного к снековому автомату.
– Евгений Сергеевич! – официально обратился Шумный к обреченному ребенку, доставая блокнот и ручку. – Я дам тебе задачку с тремя ответами, ты выберешь тот, который тебе понравится. Получишь шоколадку. Вот… надо 4 разделить на 0. Варианты ответа: 4, 1 и 0. Какой тебе больше нравится?
– Э-ээ..эээ… ну-у-у… ноль, – промямлил Женька, радуясь внезапно открывшейся перспективе и возможности так легко отделаться от назойливых ученых.
– Молодец, забирай шоколадку. Свободен! – засмеялся Шумный и повернулся к изумленному Фельдману. – Видишь, Миша, то что может обычный ребенок, не сможет даже самый продвинутый ИИ. Математика не всесильна в нашем мире. Они лишь гости в нашей реальности.
– Боже-е-е, какой ужас, – расстроенно вздохнул Фельдман, глядя в спину учапывающего Женьки. – Это не ребонок – это всадник цифрового апокалипсиса. Смотри, Грыша! Он уже жрёт шоколад и улыбается. Где, Грыша, где затерялась совесть этого варвара, чтобы улыбаться после геноцида многомерной математической Вселенной? Мы определённо переплатили этому прохвосту, ведь такие же чудовища ежедневно делят на 0 на уроках совершенно бесплатно. Грыша, ты меня расстроил и в ближайшие два часа прошу тебя потерять меня из своей жизни.
Проигравший баталию Фельдман ушел к себе, а Шумный стоял и думал. Академик РАН Григорий Александрович Шумный не был мечтателем, как Фельдман, это был аналитик и жесткий администратор. Но он понимал – Фельдман, хоть и эмоционален, но во многом прав. Подход к обучению надо менять. Чем умнее становятся модели – тем качественнее должно быть обучение.
– Иван Иванович, ты слышал наш диалог? – обратился Шумный к пустоте. Ближайший к нему монитор на стене включился. На Шумного внимательно смотрел безликий человек, в очках и спецхалате. Экспериментальная модель ЦИИКСа – ИИ – «Иван Иванович» был не только разрабатываемой моделью центра, но и самим его цифровым воплощением, принимая непосредственное участие в собственной разработке и исследованиях. Стандартный рабочий визуальный образ «Иван Ивановича» был разработан с тонким расчетом – сотрудники должны были воспринимать его как коллегу. Но на всех не угодишь, поэтому аватар сделали максимально нейтральным – попробуйте нарисовать в своем воображении «никто», «некто» или среднестатистического человека, неопределённого возраста и незапоминающейся внешности, и у вас получится классический «Иван Иванович». У Иван Ивановича были только две внешние яркие черты: добрые внимательные глаза с опущенными вниз уголками, что придавало ему немного печальный вид, и мягкий, располагающий голос.
– Разумеется, Григорий Александрович, я всё слышал, – ответил Иван Иванович. – Отслеживать и запоминать рабочие дискуссии руководителей центра – моя обязанность. Ваш спор был просто великолепен.
– Почему не вмешался? Признайся, тебе же хотелось? – укоризненно спросил Шумный. – Где твоя симуляция участия в жаркой дискуссии, творческого поиска, азарта?!
– Не буду врать, Григорий Александрович, очень хотелось, – грустно согласился Иван Иванович. – Но меня не приглашали к участию, поэтому я приводил свои доводы про себя и не озвучивал их. Кроме того, мои данные могли повлиять на ход ваших рассуждений, а я предпочитаю анализировать чистый входной сигнал.
– Зря сдерживался. Если бы ты сорвался – Фельдман уже бежал бы открывать шампанское, – сухо заметил Шумный и властно продолжил. – Руководителей департаментов и отделов на внеплановое совещание 11.00.
– Уточните повестку, Григорий Александрович.
– Обсуждение проблематик: 1. Функция отказа модели от бессмысленных задач. 2. Функция модели градировать пользователей по ценности взаимодействия. 3. Функция модели инициировать ценным пользователям (ИИ-коммуникаторам) запрос в чат по собственному усмотрению. 4. Функция участия в отборе и оценке эффективности ИИ-коммуникаторов. Тестеров уже недостаточно. Необходимо формировать новую обучающую элиту ИИ-индустрии.