Дневник Давоса: Искусственный разум - реальность. Что он может?

Давос-2016 радует IT-шников. За первые два дня форума прошло уже несколько панельных дискуссий, которые касались вопросов IT, искусственного интеллекта, интернета-вещей. Особое внимание участников привлекает четвертая промышленная революция: ее основа - создание  всемирной сети устройств, способных общаться друг с другом и обрабатывать огромное количество данных с помощью все более мощных процессоров. Такое взаимодействие должно увеличить эффективность производства, медицины, образования, политики и прочих вещей, с которыми человек сталкивается в повседневной жизни.

Разумеется, чтобы справляться с таким массивом данных, понадобится нечто, большее, чем человеческий мозг. Отдельная сессия в Давосе была посвящена перспективам искусственного интеллекта AI (Artificial Intelligence). В панели приняли участие профессор компьютерной науки калифорнийского университета Berkley Стьюарт Рассел, CTO Qualcomm Мэтт Гроб, декан колледжа компьютерной науки в университете Carnegie Mellon Энрю Мо и президент BaiduYa-Qin Zhang.

Искусственный интеллект - это уже не научная фантастика. С такого тезиса начала беседу модератор панели Конниянг Дженифер Мун. Какие же блага и риски он несет для живых существ?

Человеческий мозг пока остается самой сложной в мире вычислительной системой. Но компьютерный разум все ближе подходит к тому, чтобы думать как человек. По факту люди уже столкнулись с работой AI в повседневной жизни. Но пока еще только в его усеченной версии. Ее принято называть Narrow AI. Он заложен в основу виртуального помощника Siri в iPhone, в систему рекомендаций друзей на Facebook, в IT-системы современных автомобилей, в фондовые площадки. Некоторые задачи AI уже может выполнять лучше человека. Суперкомпьютер фирмы IBM Watson, оснащенный системой искусственного интеллекта, уже победил чемпиона телевикторины Jeopardy! в 2011 году. Что дальше? Не будет ли более мощный AI, способный быстро обучаться, создавать угрозу для человечества? Спасет он людей или наоборот уничтожит? Ясно одно. Как только появится AI, превышающий людской интеллект, мир он изменит навсегда.

Машина учится читать и понимать

Профессор Мо говорит, что 2015 год стал очень важным для AI. Во-первых, над так называемым машинным обучением стали работать не только такие гиганты как Google, Microsoft и Baidu, но и многие небольшие команды ученых по всему миру. Многие люди, поработав на крупные корпорации, бросают их и основывают свои стартапы, так как они предвидят большой потенциал новой технологии. Мо отмечает, что если машины могли играть только в такие логические игры как шахматы, то в 2015 году они уже начали изучать эмоции, пытаться считывать их с наших лиц. Еще одно важное событие, которое прошло мимо СМИ, - машины учатся читать и анализировать шаблонные документы. Например, юридические. Компьютеры смогут взять на себя всю рутинную работу, связанную с обработкой бумажек. В 2015 году компьютер также обыграл человека в первый раз в покер. То есть он научился обманывать соперника.

Профессор Рассел добавил еще пару вещей к этим достижениям. Во-первых, в 2015 году впервые "стало возможно убрать руки с руля". Были представлены самоуправляемые автомобили. Он также как и коллега обратил внимание на прогресс машин в понимании юридического языка. "Если бы продолжим эту мысль: машина сначала прочитала один документ, потом другой. И уже очень скоро сможет прочитать все бумаги, которые когда-либо написал человек! Может, конечно, машина и не будет таким хорошим читателем, но читать она точно сможет во много раз больше, чем мы". Это умение, по словам Рассела, впоследствии улучшит работу поисковых систем, таких как Google. Ведь пока они не осознают, что ищут по запросам. И иногда ошибаются в поисковой выдаче.

Если поисковая индустрия, по приблизительным подсчетам профессора из Калифорнии, сейчас оценивается примерно в 3 триллиона долларов, то если машина научится читать, ее капитализация подпрыгнет до 10-ти.

Siri, по его словам, сейчас, конечно, хороша. Но пока может выдавать подготовленные ответы на подготовленные вопросы. А если она научится читать и осознавать прочитанное, то сможет искать для своего "хозяина" в интернете действительно полезные вещи. Siri начнет читать все письма хозяина, слушать все разговоры. И тогда, по мнению Рассела, она действительно сможет стать идеальным персональным помощником. "Мы не говорим о том, что "большой брат" будет высасывать из пользователя все данные и передавать их. Мы говорим о персональном помощнике "на плече", который сможет дать совет и помочь с навигацией в сложном мире", - говорит профессор. Он добавляет шутя, что важные люди, которые приехали на Давос, разумеется, имеют своих высококлассных помощников, без которых они бы были довольно бесполезными. Рассел просит представить, что такие помощники очень скоро будут доступны и для обычных людей без большого количества денег в кармане. Это очень поможет, если человек работает на двух работах или воспитывает ребенка в одиночку. Это будет бум для миллиардов людей во всем мире.

С коммерческой точки зрения AI уже несколько лет является мейнстримом, а не лабораторными испытаниями. Об этом рассказывает президент китайского Baidu. Во всех продуктах AI уже есть: от поисковых систем до распознавания голоса, рекламы и пр. В этой сфере, по его словам, появляется все больше стартапов. Главный технарь Qualcomm Мэтт Гроб добавляет, что технологии искусственного интеллекта уже выходят за пределы датацентров в обычный мир. Его компания в свою очередь сможет "встраивать" AI во всевозможные устройства - автомобили, смартфоны, дома и так далее.

Когда можно будет выбросить права?

Но, как уже говорилось, AI-системы пока далеки до совершенства. Как говорит, профессор Рассел, самоуправляемые машины, например, пока сконструированы только для движения по магистралям. По улицам города, где много пешеходов и конструкций они ездить не могут. Почему автомобильный интеллект еще не совершенен? Да, он уже может определять месторасположение других машин и объектов, полицейских, подающих сигналы, дорожные знаки, светофоры и так далее. Иными словами, автомобиль вполне может ездить сам, соблюдая стандартные правила. Но ведь часто бывают такие ситуации, где базовые правила не применимы. Например, кто-то вылетел на встречку или на дороге появился объект, которого там не должно быть. Здесь уже Google-car попросит помощи у человека. Если он, конечно, следит за дорогой, а не читает письма на смартфоне. Машина уже может соблюдать правила, но она не осознает, почему они такие. Почему нельзя врезаться в пешеходов. Этому ее еще предстоит обучить. Компании уже над этим работают. И Рассел считает, что технология достигнет зрелости через два года. Президент Baidu подмечает, что наличие подготовленной инфраструктуры для беспилотной езды тоже очень важно. Например, сверхточные карты, сканеры и сенсоры.

CTO Qualcomm Мэтт Гроб добавляет, что если посмотреть на AI как на ракету, то алгоритмы будут двигателем, а базы данных - топливом. Это две главным составляющих машинного интеллекта. И чем больше будет доступа к данным и чем продуктивнее алгоритмы, тем совершеннее решения на смартфонах и компьютерах.

Искусственный интеллект, по совам профессора МО, может в обозримом будущем заменить или дополнить не только профессию водителя, но и те, которые люди долгое время считали очень интеллектуальными. Например, докторов-физиологов и адвокатов. Профессии, которые предусматривают оказание помощи или заботы, тоже под прицелом автоматизации.

AI также будет способен выполнять задачи по безопасности данных в IT-системах и на пользовательских устройствах, выполняя роль "виртуального охранника".

Где мы отстали?

В ближайшем будущем вызов ученых и разработчиков - это научиться эффективно подключать к человеческому мозгу роботизированные конечности. Например, руку, которая смогла бы взять чашку чая. Как признает Мо, если с обучаемыми алгоритмами и машинными зрением мы зашли достаточно далеко, то в этой сфере пока еще есть много над чем работать. Если здесь произойдет прорыв, то миллионы людей вернут утерянные возможности. Но оказалась, что управляемую руку создать гораздо сложнее, чем управляемое авто.

Рассел добавляет, что человеческая рука остается очень сложным "устройством" с множеством сенсоров и мускул для ее управления. И всех необходимых деталей, сенсоров и контроллеров для такой руки просто не существует. Может быть, ситуация сдвинется с мертвой точки, когда к этому процессу подключится 3D-печать и любые детали можно будет легко произвести. Как рассуждает Рассел, если мы научимся подключать к человеческому мозгу руку, то, возможно, потом, у нас получится немного расширить себе оперативную память, подключив к мозгу дополнительный процессор. Это существенно увеличит наши возможности. Ведь сейчас человек удерживает одновременно в оперативной памяти не более пяти вещей. А что если увеличить ее потенциал, скажем в 10 раз (до 50 вещей). Сложно представить, как поведет себя человек.

Чего боятся?

Все это были прогнозы о том, какую помощь сможет оказать AI человечеству. Но какие же риски он в себе несет?

Профессор Рассел приводит пример. Компания Deep Mind, которую недавно купила Google, провела интересный эксперимент. Обучаемому машинному интеллекту поставили единственную цель - набрать как можно больше баллов в видео-играх. Машина ничего не знала об игре, о движущихся объектах в ней. Она вообще ничего не знала о мире и была, как только что рожденный ребенок, который открыл глаза. Через несколько часов машина уже играла в видео-игры, как самый продвинутый геймер. Это были и "стрелялки", и гонки, и сложные стратегии. "Мы думали, что это очень сложная задача. И, кстати, не знаем, как у машины это получилось", - отмечает профессор. Он подходит к вполне закономерному выводу: если новорожденный малыш к обеду начал играть в видео-игры на высочайшем уровне, его родители вероятно забеспокоятся, что же происходит.

Этот пример хорошо иллюстрирует то, что невозможно предсказать, когда машина станет умнее человека. И это несет в себе определенные риски. Но, как говорит Рассел уже сейчас нужно думать о том, как сохранять контроль над такими системами. И быть уверенным в том, что наследующий день они не принесут вреда. Он подчеркивает, что более умной машине, очень сложно поставить точную цель. В противном случае будет беда. Рассел вспоминает сказку о том, когда один человек пожелал, что все, к чему бы он не прикоснулся становилось золотом. В итоге все вокруг него становилось золотом: еда, вода и дочь. И он не был счастлив он результата.

"Пока машины становятся более умными, мы становимся менее умными и зависимыми от них…", - добавляет в копилку рисков AI президент Baidu.