Блог

Полмиллиарда долларов на экзистенциальный риск

Сергей Бобровский
26.02.2014 12:19:42

Зачем Гугль играет с цифровым ядерным оружием?

Относительно незамеченной мировыми СМИ проскочила январская покупка Гуглем английского стартапа DeepMind, разрабатывающего некие технологии искусственного интеллекта, за фантастическую на этом рынке сумму 400-500 млн. долл. Вдобавок вообще никакой конкретики об этих технологиях не раскрывается (см. "Загадочная покупка Google"), известно лишь, что стартап специализируется на мощных технологиях машинного обучения. Мировой журналистский мэйнстрим выразил свое "фе" закрытости сделки унылыми сетованиями и шаблонными подозрениями, что дескать "Корпорация добра" пытается все полнее и глубже автоматизировать изучение поведения своих пользователей (конечно, не без этого).

В данном контексте можно припомнить и покупку Гуглем Boston Dynamics, прославившуюся отличным роботом-мулом для американской армии, и даже бесплатную аугментированную игру Google Ingress -- установив клиент на андроид-телефон, надо посещать "порталы", привязанные к физическим точкам (например, различным памятникам), виртуально обороняя их от соперника, связывая "линками", захватывая пространства итп (организованные группы игроков уже покрывали виртуальными полями реальные Европу, США, Австралию...). Когда у Гугля пытались выяснить, с какой целью развивается этот бесплатный проект, ответ прозвучал удивительный: "мы хотим набрать миллиард пользователей". Пока же миллионы игроков по всему миру ежедневно транслируют в Google информацию о своих передвижениях и маршрутах, причем между сторонниками двух противоположных фракций нередко вспыхивают разборки, напоминающие межрелигиозные конфликты...

Покупка DeepMind хорошо укладывается в стратегический тренд движения к технологической сингулярности (компьютер с интеллектом миллионов человечеств -- Artificial General Intelligence -- мгновенно решит все проблемы существования, создаст технологии бесплатного существования, очень длинной жизни -- а может быть, решит уничтожить всю планету http://www.pcweek.ru/idea/blog/idea/5795.php ), где Гугль явно намерен играть первую скрипку. Рэй Курцвейл, главный гуру сингуляристов, в прошлом году пришел на работу в Google, и поварившись на ее технологической кухне, в этом году уже сдвинул свой прогноз наступления сингулярности -- с 2045-го на 2029-й! Google вместе с DeepMind даже сформировали специальный совет по этике, который с привлечением общественности smile:) будет контролировать развитие соответствующих технологий.
Единичные попытки разобраться этическими аспектами данной сделки все же были: вот довольно поверхностная статья от Forbes: "Inside Google's Mysterious Ethics Board".
http://www.forbes.com/sites/privacynotice/2014/02/03/inside-googles-mysterious-ethics-board/

Свежее обсуждение темы мировой айтишной тусовкой:
http://tech.slashdot.org/story/14/02/24/157227/ray-kurzweil-talks-googles-big-plans-for-artificial-intelligence

Интересно, в BMW тоже создана внутренняя группа по этике в связи с приближением эпохи самоходных автомобилей. Знаете, в чем там проблема? Если автомобиль под программным управлением невольно оказывается в аварийной ситуации, и ему предстоит либо врезаться в автобус с детьми, либо свернуть в сторону, упасть с обрыва и убить своего пассажира, какое решение программе принять? А если распознан пассажирский автобус, но очень похоже, что он пуст -- но есть крохотная вероятность, что программа распознавания ошибается и нету времени на более детальный анализ ситуации, как поступить?

Да и само понятие этики в разных культурах различается крайне сильно.
Например, DeepMind сделает очень-очень умного виртуального помощника -- но если с ним станут советоваться преступники? Или, в более мягких вариантах, любовница с помощью AI будет продумывать, как увести из семьи женатого мужчину? smile:)

Далее посмотрим, какие оценки подобным "экзистенциальным" рискам, имеющими очень малую вероятность осуществления, однако сулящим крайне серьезные последствия, дают ведущие AI-специалисты, и куда сегодня движется мировой AI-рынок.

Комментариев: 0

Только зарегистрированные и авторизованные пользователи могут добавлять комментарии

Интересно

Статьи

Руководство по блокчейн для руководителя
Технологии, лежащие в основе биткоина, являются наиболее перспективной линией развития Интернета. Расскажем, каким …

Цифровая трансформация: что нужно знать ИТ-директорам
Пока одни ИТ-директора разбираются с тем, что же такое цифровая трансформация и зачем она нужна, другие …

ИТ-департамент предприятия атомной отрасли — сам себе интегратор
Далеко не всем советским научно-производственным предприятиям удалось сохранить свои позиции в новых рыночных …

Большинство аналитиков по-прежнему составляют отчеты. И это не так уж плохо…
Несмотря на распространение гибких аналитических инструментов и платформ, в подавляющем большинстве …

“Наш принцип — ошибаться чаще”
Цифровая трансформация стала сегодня очередной мантрой аналитиков и консультантов, рассказывающих нам …

Мы в социальных сетях

PC Week/RE в Facebook PC Week/RE в Контакте PC Week/RE в Google+ PC Week/RE в Одноклассниках PC Week/RE в Twitter

Решения

Сборник статей «Как определить ценность Интернета вещей для бизнеса»
Internet of Things — тренд, который уже сейчас кардинально меняет бизнес во всем мире. И хотя некоторые до сих пор с …

Сервис — это наше «все» в прошлом, настоящем и будущем!
Сервисные центры ГК «Паладин» осуществляют различные виды обслуживания вычислительной техники Hewlett-Packard …

HP SM соединяет лучшие практики с жизнью
Множественный опыт российских и зарубежных компаний показали, что ПО для управления ИТ-услугами помогает упростить …

Администрация Стрежевого подключает к корпоративному документальному серверу eDocLib муниципальные учреждения
Единая информационная система Администрации городского округа Стрежевой (Томская область), базой для которой стали …

Распределительная теплосетевая компания «ОмскРТС» внедрила СЭД «ДЕЛО» в первый месяц своей хозяйственной деятельности
«Территориальная генерирующая компания № 11» (ОАО «ТГК-11»), одна из крупнейших теплоэнергетических бизнес-структур в …

Блог

Наступает ЭРА ГЛОНАСС
С 1 января 2017 года наступил новый этап в работе российской государственной системы Экстренного реа ...

"Гаражное" подразделение Microsoft идет по следам Google
Компания Microsoft представила "умный поиск" в персональном почтовом архиве - Email Insights. С его ...

Gitea предлагает разработчикам ПО совместное "чаепитие" в системе Git
Сразу после Нового года у программистов появилась возможность использования еще одной облачной систе ...

Google отказался от собственного беспилотного автомобиля
Руководство Google приняло решение прекратить разработку собственного беспилотного автомобиля.

В Мичигане могут ездить автомобили без водителей
Губернатор штата Мичиган Рик Снайдер (Rick Snyder) подписал в конце прошлого недели целый набор зако ...

 

Лидеры читательского рейтинга

Статьи

Записи в блогах

Панорама

Panasonic KX-NSX: UC-платформы повышенной актуальности
UC-платформы Panasonic KX-NSX с расширенной пятилетней гарантией позволяют обеспечить современной связью до 2000 и …
Принципиально новое унифицированное хранилище (NAS и SAN) от Infortrend. Вся система на двух юнитах
Хранение данных на сегодняшний день — это задача, которая не имеет стандартного решения. Современные технологии …

Интересно

 

Создание сайта - студия iMake
© 2017 АО «СК ПРЕСС».
Информация об авторских правах и порядке использования материалов сайта.
Правила поведения на сайте.

На главную PC Week/RE  |  Об издании  |  Архив номеров  |  Подписка на бумажную версию
Другие проекты «СК ПРЕСС»ITRNБестселлеры IT-рынкаByte/РоссияCRN/REIntelligent Enterprise/REPC Magazine/RE.