[spoiler]Для пессимизма есть веские причины:
Machine Intelligence Research Institute оценивает в 5% вероятность того, что имеется принципиальная возможность создать молекулярный наноавтомат, который уничтожит все человечество так быстро, что никакие "оборонные" нанотехнологии не смогут ему противостоять.
В 10% оценивается вероятность того, что человечество будет уничтожено некоторой технологией (для примера, теми же наноботами), которая будет разработана недружественным искусственным интеллектом узкого назначения.
1% -- вероятность того, что AI уже в ближайшие 20 лет станет умнее человека, и сможет стать неподконтрольным людям за счет перехитрывания.
5% -- вероятность того, что подобные исследовательские процессы развиваются так, что остановить их невозможно. С вероятностью 5% сам MIRI внесёт в эти процессы значимый вклад.
Прошедшая в августе очередная конференция AGI (символично -- в Пекине) собрала рекордное число участников. Вот перечень ключевых тезисов:
- основной математический аппарат для построения AGI -- это теория вероятностей (точнее, Байесовы сети); - в реальной жизни ни мы, ни программы, не можем рассуждать последовательно и рационально -- приходится учитывать вероятности различных событий;
- продолжится интеграция тела и мозга человека с компьютерными устройствами (это одно из ключевых направлений создания супер-интеллекта уже в обозримом будущем);
- новые алгоритмы глубокого машинного обучения с развитой рефлексией;
- в ближайшие годы немалое число исследований будет использовать искусственный язык Lojban, который становится фактически языковым стандартом в сфере AGI;
- ещё одним стандартом в AGI-исследованиях, только уже инструментальным, будет OpenCog API.
http://habrahabr.ru/post/160255/
Так, правительство Гонконга профинансировало проекты робототехнические на базе OpenCog, а в Эфиопии открылась научная лаборатория OpenCog AI.
Одна из очередных перспективнейших разработок -- это проект Карнеги-Меллона Never-Ending Language Learner (NELL) -- система, которая самообучается непрерывно и неограниченно. С 2010 г. она изучает тексты в Сети, формируя огромную онтологию, сеть понятий с 50 млн. связей, о нашем мире. Сейчас 75% встречающихся понятий она самостоятельно категорирует с точностью 90-99%, а для оставшейся четверти пока нужна помощь человека.
За ходом проекта можно следить тут: http://rtw.ml.cmu.edu/rtw/
Для желающих поэкспериментировать с NELL предоставляется опытный API через JSON-запросы.
