«Своими руками создаём монстра». Что будет, когда ИИ станет умнее нас?

svoimi-rukami-sozdajom-monstra-chto-budet-kogda-ii-stanet-umnee-nas-6ecad7c

3 мая 1997 года в Нью-Йорке, на 35-м этаже небоскрёба Equitable Building, начался шахматный матч между чемпионом мира Гарри Каспаровым и суперкомпьютером Deep Blue. Это был второй их поединок, в первом победу одержал гроссмейстер. Но в этот раз сильнее оказалась машина: матч, состоявший из шести партий, завершился 11 мая со счётом 3½ : 2½ в пользу Deep Blue, чьё название, кстати, можно перевести как «глубокая печаль».

Это было историческое событие. И не столько в мире шахмат, сколько в развитии технологий. Ровно четверть века назад компьютерная программа впервые одержала верх над человеком, и с этого момента стало ясно, что возможности искусственного интеллекта будут только нарастать, а опасения, что рано или поздно он выйдет из-под контроля и захватит власть над людьми, зазвучали всё громче.

Ключевая технология индустрии 4.0

Мы этого не заметили, но искусственный интеллект (ИИ) уже стал неотъемлемой частью нашей жизни. Это случилось с наступлением эры смартфонов. Мобильные устройства превратились в наше второе «я», без которого мы не можем существовать, а ведь многие установленные в них сервисы работают с поддержкой ИИ. Это и навигатор, прокладывающий оптимальный маршрут, и голосовой помощник, и «умная» фотокамера, и система распознавания.

С каждым годом таких сервисов будет становиться всё больше, и не только в смартфонах, но и в нашей жизни вообще. Финансовые операции, шопинг, безопасность — всё это будет автоматизироваться и наполняться алгоритмами. Ведь человечество вступает в эпоху четвёртой промышленной революции (её ещё называют индустрией 4.0), а искусственный интеллект является одной из ключевых её технологий.

Существует каноническое определение ИИ: это программы и аппаратные компоненты, которые способны обучаться и базируются на сложных математических решениях. Но если трактовать понятие шире, то ИИ — это всё то, что думает вместо человека, освобождая его нейроны от мыслительной деятельности и реализуя аналогичный процесс на базе битов внутри вычислительных систем. Эксперты предрекают, что к началу следующего десятилетия мир станет почти полностью автоматизированным и управляемым интеллектуальными машинами — они будут отслеживать каждое наше движение, создавать и выявлять социальные предубеждения и много чего ещё. А вездесущий ИИ будет присутствовать практически во всех новых продуктах и услугах — беспилотных автомобилях, персонализированной медицине, ритейле и страховании…

Манеру игры описывали как инопланетную

Но вернёмся к суперкомпьютеру Deep Blue. После него эстафету соперничества с человеком в интеллектуальных играх подхватила программа AlphaGo. Она была написана специально для обучения игре го, которая считается более сложной, чем шахматы. Только в отличие от Deep Blue программа не использовала предложенные ей заранее алгоритмы и оценочные функции, помогающие одержать победу, а всего лишь опиралась на правила игры и её теорию.

Анализируя сыгранные профессионалами партии, AlphaGo постоянно обучалась и достигла столь высокого уровня, что смогла одолеть трёхкратного чемпиона Европы Фань Хуэя, а затем и одного из сильнейших игроков мира (в го нет единого официального ранжирования) Ли Седоля. Это произошло в марте 2016 года.

«Когда компьютер впервые обыграл чемпиона мира по шахматам, все вздрогнули: получается, что машина победила один из сильнейших человеческих умов, — делилась своими впечатлениями известный нейролингвист, директор Института когнитивных исследований СПбГУ Татьяна Черниговская, выступая на прошлогоднем марафоне „Новое знание“. — Потом стали говорить: шахматы — это, конечно, сложная игра, но вот игра го сложнее, она не поддастся искусственному интеллекту. Но и она поддалась! Ли Седоль, чемпион по игре го, был разбит компьютерной программой AlphaGo.

Фань Хуэй. Фото: Commons.wikimedia.org

И на этом дело не кончилось. С тех пор интеллектуальные самообучающиеся программы типа AlphaGo и AlphaZero взяли почти все рубежи — кроме шахмат и го, они обучились игре в сёги (японская настольная логическая игра. — Прим. ред.) и даже в покер. Дело не в игре, а в том, что они наступают на нашу территорию. Те вещи, которые, как раньше считалось, может делать только человек, оказывается, может делать и машина.

Меня глубоко потрясло, что программа AlphaZero побеждала другую программу за счёт своей „глубокой интуиции“. Она была способна перебирать гораздо меньше позиций в секунду, чем соперник, и тем не менее выигрывала, поскольку использовала так называемую холистическую стратегию и „искусственную интуицию“. То есть оказалась хитрее и умнее, несмотря на то, что медленнее работала. Сами создатели этой программы были поражены. Они описывали её манеру игры как инопланетную: такие ходы никогда не встречались ни у людей, ни у других программ.

Таким образом, компьютерные программы преодолели разрыв между логикой и интуицией, перескочили этот барьер. Интуиция всегда считалась чертой, присущей только человеку. Но оказалось, что машина может нас на этом поле переиграть».

Самый большой враг человека

Постоянное обучение — один из принципов работы искусственного интеллекта. Система анализирует массивы данных, за счёт чего растёт и развивается. Это можно сравнить с онтогенезом (индивидуальным развитием организма), но учёные идут ещё дальше и предлагают нечто похожее на филогенез, то есть развитие вида.

В Эдинбургском университете разработали ИИ, который способен эволюционировать в соответствии с теорией Дарвина. Он умеет адаптироваться к меняющимся условиям и передавать новые навыки (или знания) в следующие поколения, отбирая тех «потомков», которые имеют больше шансов на выживание. Речь идёт о роботах. ИИ будет «размножаться», производя их без всякого участия человека — с помощью 3D-принтера, к которому подключён. Разработчики хотят добиться полной автономии в жизненном цикле таких роботов и предполагают, что они найдут применение там, куда человек не может добраться — на других планетах и на дне океана.

Теперь специалисты говорят о том, что не за горами появление так называемого «сильного» ИИ. Фактически он будет способен мыслить и осознавать себя отдельной личностью. И если не ограничить его способность к обучению, он превзойдёт человека не только по умению адаптироваться к экстремальным условиям, но и по интеллекту.

«С кем Homo sapiens боролся на протяжении всей своей истории? С интеллектуальными системами! С хищниками, врагами внешними и внутренними, злоумышленниками, преступниками, недоброжелателями и т. п., — рассуждает специалист в области адаптивного управления и поведения, главный научный сотрудник Института точной механики и вычислительной техники имени С. А. Лебедева РАН Александр Жданов. — Чем они умнее, тем страшнее и опаснее. Самый большой враг человека, с которым он борется всю свою жизнь — интеллектуальные системы!

Пока человек не видит вокруг себя никого, кто был бы значительно умнее его. Поэтому он чувствует себя хозяином мира. Но представьте, что появляется интеллектуальное существо, которое в тысячу, в миллион раз умнее! Известно, что человек в один момент способен контролировать около семи параметров (плюс-минус два), а это существо будет контролировать, скажем, 70 тысяч параметров. И при этом иметь доступ ко всей персональной информации каждого человека и принимать решения, исходя из них. Скажите, будет у вас хоть один шанс обмануть его, одержать над ним победу? Ни-ка-ко-го. Эта система всегда будет переигрывать вас. И вот мы сейчас своими руками создаём такого монстра».

Машинная мораль

Есть ещё один важный момент. Когда люди воюют друг с другом, они всегда могут уповать на снисхождение, каким бы злым и жестоким ни был враг. Но в случае с ИИ на такое рассчитывать вообще не приходится. Ведь у него нет привычной нам человеческой морали, она у него машинная. Неизвестно, по каким критериям он будет принимать решения и будут ли они соответствовать нашим представлениям о добре и зле.

Британский специалист в области искусственного интеллекта Стюарт Рассел приводит такой пример. Как известно, в последние годы ИИ широко применяют для диагностики и лечения онкологических заболеваний. «Не стоит рассчитывать, что он вот-вот решит проблему этих смертельных болезней. Наоборот, ИИ, скорее всего, найдёт способ пересадить раковые клетки всему человечеству, чтобы провести миллионы экспериментов одновременно, используя всех нас для своего обучения как подопытных свинок, — говорит эксперт. — А всё потому, что он будет стремиться решить задачу, которую мы перед ним поставили, но при этом забыли уточнить, что нельзя проводить эксперименты на людях».

Оцените материал

Источник aif.ru


Добавить комментарий

Ваш адрес email не будет опубликован.