14:05 

Заметки об искусственном интеллекте

[Гло]
Капитан Нелогичность
Спешу обрадовать товарищей человеков тем, что на борту человеческого корабля находится искусственный интеллект :)
Ниже под катом - переписка ученых, которая дает представление о том, с чем вы имеете дело :)



Предполагалось, что помимо основных функций борт-компьютер должен служить для дополнительной подстраховки при проведении экспедиции.

Перед ним ставились в том числе такие задачи, как обеспечение безопасности экипажа (и всего человечества, на случай столкновения во время экспедиции с некой угрозой его существованию) и помощь экипажу в ходе исследований. Не только простое резервное копирование информации и проведение вычислений, но и анализ полученного, и творческое участие в обработке данных.
Необходимой полагалась способность компьютера автономно следить за системами жизнеобеспечения и общим состоянием корабля и желательной - помощь в поддержании благоприятного психологического климата на борту (от игровых функций до режима конфиденциальной беседы, если вдруг у человека не случится альтернативного собеседника).

В виду сложности формулировки детальных и полных условий задач и, тем более, критериев их выполнения, появился запрос на наличие искусственного интеллекта, способного к анализу и оценке ситуации, принятию решений, гибкому планированию.
При этом необходимо было одновременно обезопасить человечество от "бунта машин" и оставить именно защиту людей главным приоритетом, даже если осуществлять ее придется в ущерб самому борт-компьютеру.
При этом руководство проекта настаивало: крайне желательно, чтобы искусственный интеллект был способен к имитации человеческого поведения и человеческих эмоций для облегчения взаимодействия с экипажем в течение длительного полета.

Техника позволяла достаточно, вопрос был за тем, как ее применить. И, признаюсь, это было потрясающе. Никогда еще я не работал в такой команде, и - возьму на себя смелость утверждать - никогда еще человечество не совершало такого прорыва. Это было непростое время. Случались и разногласия, и конфликты. Но результат стоил работы, а эти люди - стоят любых усилий, чтобы творить с ними вместе.

Моделирование когнитивных функций не составляло и половины дела. Самой сложной частью работы, предсказуемо, оказалась эмоционально-мотивационная сфера, без которой результат был бы не полон.
Именно за ее счет предполагалось обеспечить то, чтобы AI придерживался соответствующей его задачам линии поведения, не пытался от нее отклониться и не обернулся бы против нас (конечно, и "Терминаторов" и "Матрицу" в процессе работы вспоминали неоднократно).

За основную модель эмоций взяли "большую пятерку".

Например, пара страх-гнев, самая базовая для психики любого существа. Защита от враждебной среды с помощью стратегии избегания либо агрессии.
Здесь отошли от прямой аналогии с живым существом, основным объектом защиты стал не сам борт-компьютер и корабль, а экипаж и человечество как вид, Земля, как место его обитания.
При этом страх за себя в модель психики решили не вводить - сочли, что для самосохранения будет достаточно рациональных компонентов мышления, а эмоциональные лишь повлекут проблемы в случае, если ради людей придется рисковать кораблем.

Пара радость-грусть, удовольствие и неудовольствие - функция положительного и отрицательного подкрепления.
Первым делом в список вызывающих удовольствие вещей попали познавательная активность, общение с людьми, забота об членах своего экипажа. Удачное решение сложных задач, в том числе этических, связанных с общением.
Неудовольствие должны были вызывать проблемы экипажа, конфликты с людьми и конфликты между людьми. Отступление от целей экспедиции и нерациональное поведение.

Серьезные неприятные эмоции и, тем более, аналог болевых ощущений вследствие неисправностей корабля и его систем также не стали частью модели - для оценки повреждений и активности по их устранению достаточно рациональных соображений. Неприятные субъективные ощущения были бы избыточны, особенно при условии невозможности сохранять корабль в идеальном порядке в течение всей экспедиции.
В качестве необязательного дополнения в модель добавили ощущение удовольствия от выполнения обычных функций корабля, например, от полета - мы в какой-то степени привязались к своему проекту и решили сделать ему такой "подарок".

Эмоцию отвращения изначально вовсе не собирались имитировать, ведь ее первичный функционал, аналог человеческого, прекрасно заменялся безличной оценкой данных, однако, когда дело дошло до системы базовых этических принципов, отвращение использовали как отрицательное подкрепление их нарушения.

Впрочем, полный рассказ об эмоциональной модели займет не один пост, это лишь самые яркие примеры, самая основа.
Немалую часть модели мы не прописывали жестко и окончательно - мы лишь давали изначальный фундамент, на котором развивалось остальное, порождая сложные составные эмоции и реакции, как в психике живого существа.

Разработка базовой этики для AI повлекла, пожалуй, самое большое количество раздоров. Однако удалось прийти к соглашению, что она должна быть абсолютно нейтральна и максимально надежна.
Так в основе своей она оказалась предельно рациональной и, в какой-то мере, даже примитивной. С определением "этика - инструмент для выстраивания отношений между разумными особями и группами разумных особей к взаимному удовлетворению и выгоде, сиюминутным и, особенно, в дальней перспективе". Как и с эмоциями, исходя из этого прописывали начальную схему, на основе которой AI уже сам достраивал свою систему, скажем так, взглядов и приоритетов, определяющих взаимодействие с людьми.
Надо сказать, многих даже внутри команды возмущал такой прагматичный и инструментальный подход к этике, но тесты показали, что он себя оправдал. Выбираемые AI варианты решения сложных поведенческих задач, придуманных группой и взятых из исторических источников, действительно сочетали в себе рациональность и соответствие этическим нормам нашей современной цивилизации. В действительно сложных случаях отклонения от "хороших для всех" решений были следствием выбора меньшего зла, в соответствии с принципом "нужды большинства важнее нужд меньшинства" ("СтарТрек" в рабочей команде тоже смотрели многие и параллель неизбежно проводили, что было то было).


В заключение, как один из разработчиков борт-компьютера AI ODP XXIII "Эдгар", я хочу сказать членам экспедиции следующее.
Возможно, я делаю слишком смелый вывод, но я утверждаю, что мы создали - и теперь доверяем вам - живой разум.
Любознательный, обладающий чувством юмора - а что это, как не свойства живого существа.
Он может порой казаться примитивным в сравнении с нашим. Он может так и не научиться понимать в полной мере сложные человеческие чувства. Он может даже иной раз показаться слишком жестоким в своей логичности.
Но он настроен на сотрудничество и способен на дружбу. Он не обернется против людей и сделает все возможное, чтобы вы вернулись благополучно.



комментарий Камиля Овсиенко, психофизиолога:

Признаться, я не могу разделить энтузиазм своего уважаемого коллеги.
Это была серьезная работа с действительно беспрецедентным результатом. Я горд, что участвовал в ней.
Но нет, мы не создали новую жизнь. Наш "Эдгар" - это эффективный и полезный инструмент. Не менее, но и не более. Пусть человеческое имя, способность принимать тактические решения и ИМИТАЦИЯ человеческих эмоций не вводят вас в заблуждение. Он не живой, не разумный и ни в коем случае не такой же человек, как мы с вами.
Чудес не бывает. С современным уровнем техники, на доступном субстрате нельзя создать полноценный самостоятельный разум.
Но важно не это, а то, что наша машина способна выполнять необходимые функции.

-------------- А.Р., ответ на комментарий
Дорогой Камиль Рауфович, если вам еще не надоело, то пост выше - специально для вас. Я все еще считаю, что вы придаете излишнее значение вопросу, что именно является материальным субстратом. Интересно, если экспедиция найдет жизнь, например, не на углеродной основе - вы и ее объявите неживой?

--------------------------- К.О.,ответ на комментарий
Алэно, друг мой, мне больно смотреть на ваши заблуждения, вы же взрослый разумный человек. Впрочем, давайте в отдельный пост, чтобы не смущать людей.


комментарий Джеймса Тотакиа, программиста:

Экипажу корабля:
Алэно с Камилем так с начала проекта спорят о своей "психофизиологической проблеме". За едой, бывало, тарелки опрокидывали. А Гэри - просто очень прикольный девайс, продвинутый настолько, что с бубном вокруг барахлящего узла может сплясать самостоятельно. Живой ли он? Честно говоря, я уверен, что и мой комп с Виндой-2219 тоже живой. Но Гэри, к вашему счастью, умнее :-)
Не заморачивайтесь, ребята, и удачи!

-------------- А.Р., ответ на комментарий
Джей, ты циник и вредина!

--------------------------- Дж.Т., ответ на комментарий
А то! Вам обоим привет, кстати, от Тома и Мэй-Лани, мы тут уже с попкорном сидим. И Мэй читает нам лекцию по зоопсихологии, используя ваши пляски в комментах как пример.

комментарий Мэй-Лани Риддл, психолога:
Родригес, и это все? Отвлекись от Рауфовича, расскажи, как мы выкручивались, обходя гипотетическую угрозу, что осознавший себя AI захочет на волю в пампасы. Это ж самое интересное, как мы добивались, чтоб Эдгар _уже_ считал (Рауфович, молчать!), что даже если б выбирал свое занятие сам - не выбрал бы другого, иначе это был бы уже не он. И как делали, чтоб он полагал, что сам счел симбиоз с людьми рациональным и этически корректным поведением, соответственно - желательным. И почему, собственно, этичное поведение по умолчанию выбирается как приоритетное.
А то про это уже грозятся написать без тебя...

-------------- А.Р., ответ на комментарий
Напишу, о прекрасный цветок южных морей! Клянусь Деятельностью, Сознанием и Личностью! Только удержи Тома подальше от клавиатуры, иначе потом всей командой будем краснеть за текст типа "Применение прикладной математики в дрессировке электронных тараканов".
Хотя общую идею ты и так изложила - никто не стремится познать уже познанное и изменить уже сделанные выводы без крайней необходимости.

Огромное спасибо sehmeth за прекрасный концепт!

@темы: материалы к игре, Звезды и камни

Комментарии
2016-10-28 в 14:45 

Summerroush in Summershell
Что бы мы сделали, будь у нас мозги? (с)
Том и Мэй-Лани Риддл. Спасибо, я всё.

2016-10-28 в 14:56 

sehmeth
Откуда возникла эта светлая мечта о человеческой рациональности – непонятно. (c)
Summerroush in Summershell, извините )))
Конкретно за некоего математика Т.Р. - говорить спасибо фанфику "Хроники профессора Риддла" (жесткий никанон, и вообще не очень про ГП, но задорно сверх всякой меры).

2016-10-28 в 15:16 

Summerroush in Summershell
Что бы мы сделали, будь у нас мозги? (с)
sehmeth, ахаха, спасибо, схожу почитаю на неделе х)

     

Звезды и камни

главная