Тест Сизифа

В пятницу 31 января в актовом зале главного здания СПбГУ сообществом выпускников была проведена открытая беседа Ивана Ямщикова (Институт Макса Планка, евангелист искусственного интеллекта AABBYY, сооснователь Creative Labs) и философа Александра Секацкого (СПбГУ, к.фил.н., доцент). Темой беседы стали вопрос осознанности искусственного интеллекта: » Знает ли робот, что он робот?» и » Может ли существовать интеллект без самосознания?».

Сизиф. stihi.ru

По ходу беседы постоянно затрагивалась тема обессмысливания труда как теста на возможность разума осмыслить его деятельность. Был приведён пример: пчёлы приносили пыльцу в соты и передавали рою сообщение определенными движениями, «танцем». Учёный, проводивший эксперимент, срезал днца у сот — поведение пчёл не изменилось при полном отсутствии заданного эволюцией результата. Вывод был сделан однозначный: рабочие пчёлы не рефлексируют свой труд и его результат.

Беглый запрос в Яндекс и Гугл «обессмысливание труда» в первой тридцатке поисковой выдачи дал материалы о узком дискурсе труда человека и условиях, снижающих его мотивацию, в том числе деньги и автоматизацию/компьютеризацию.
Однако, попробуем развернуть вопрос от человека к искусственному интеллекту (ИскИн): как получить инструмент для тестирования ИскИн на осознанность?
Вопрос, при всей внешней надуманности, отнюдь не праздный и сугубо фундаментальный — просматривается поле его практического применения.
Поставим задачу: требуется получить алгоритм тестирования ИскИн-а на осознанность действий. Именно в этой плоскости лежит граница между т.н. «слабым» ИскИн-ом, работающим как экспертная система по заданному алгоритму, пускай и сложному и модифицируемому, и «сильным» ИскИн-ом, который к тому же по крайней мере рефлексирует свою деятельность и как-то к ней относится (см. Вики и rb.ru).

Переход от слабого к сильному ИскИн-у возможен как запланированно, при модификации или обучении его создателями, так и, по всей видимости, при достижении определенных условий в процессе работы. Можно предположить, что такими причинами, по крайней мере описанными в научной фантастике, см., к примеру, зарождение разума у танкеток-автоматов Татиком в сериале Ghost in the shell , бунт ИскИн-ов в цикле «Гиперион» Дэна Симмонса, могут стать как усложнение и обучение, так и накопление ошибок в коде ИскИн-а. Важно, что для достаточно развитого ИскИн-а появление отношения к производимой работе является риском.

Тест на силу ИскИн-а пройден. i.sunhome.ru

На практике предложенную задачу придётся решать в двух случаях:
1) целенаправленное выращивание сильного ИскИн-а из слабого;
2) индикация самостоятельного развития ИскИн-а в областях, где оно вредно.
Второй случай будет иметь место при использовании ИскИн-а в областях, где требуется жёсткое следование заложенному алгоритму или полная бесстрастность эксперта. Так, ИскИн, подготавливающий обзоры прессы должен быть беспристрастен или же придерживаться линии, заложенной в него. Поддержка им какой-либо политической силы или предпочтение какого-либо информационного ресурса (демонстрация осознанности) неминуемо исказит результат работы ИскИн-а.
Решением задачи может стать «тест Сизифа» — периодическое обессмысливание работы ИскИн-а. Отсутствие реакции служит подтверждением слабости тестируемого, наличие её, к примеру, запуск внеплановой проверки систем, информирование обслуживающего персонала или работающих с ним аналитиков (людей и ИскИн-ов) — подтверждением силы. С высокой долей уверенности можно прогнозировать, что способ обессмысливания должен быть экзотическим для нормальных условий работы тестируемого ИскИн-а: в противном случае реакция может быть следствием не «силы», а периодической наработки в прошлом. Так, для пчёл учёный, отрезающий донце сот — экзотика, а медведь, эти соты поевший — древняя и привычная угроза, на которую наработан ответ.

Назад

Мозговой штурм: зачем в нём участвуют?

Далее

Недокументированные возможности — не только прогностика, но и петрография)

  1. Great content! Super high-quality! Keep it up! 🙂

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

создано с помощью WordPress & Автор темы: Anders Norén