ИИ от Google научили быть «крайне агрессивным» при стрессовых ситуациях

  Всем известный физик Стивен Хокинг сделал заявление о том, что разработка искусственного интеллекта станет либо лучшим открытием в истории человечества, либо худшим. Ведь каждый из нас читал немало печатных изданий, в том числе фантастических книг, смотрел фильмы на тематику наступления апокалипсиса во всем мире в связи с появлением искусственного интеллекта. Не думаю, что нам хотелось бы пережить такую систему искусственного интеллекта, как “Скайнет” из всем известного “Терминатора”, которая решила, что человечество ей больше не нужно. Последние разработки компании DeepMind (Google) в области создания искусственного интеллекта лишь внемлят нам о необходимости быть крайне осторожными в производстве роботов.

  Следует отметить, что разработка DeepMind демонстрирует просто невероятные способности обучения, несмотря на то, что он был первоначально запрограммирован. А также робот делает успехи в имитации голоса человека и чтении по губам. Недавно была проведена логическая игра го среди роботов, где разработка компании DeepMind обошла лучших игроков со всего мира.

  Последние же исследования говорят о том, что ИИ может ощутить приближение своего провала и предпринять новые, но более агрессивные стратегии своего поведения. Было проведено около сорока миллионов заходов в игре Gathering. ИИ DeepMind необходимо было контролировать двух игроков (синий и красный кубик). Задача перед ИИ стояла такова: необходимо было организовать соревнование между игроками и собрать столько “яблок” , сколько возможно.

  Следует отметить, что все шло хорошо, пока игроки, которыми управлял ИИ справлялись со своей задачей в сборе фруктов в большом количестве. Однако, когда запаса яблок начали сокращаться, было отмечено, что игроки стали вести себя более агрессивно, используя все чаще световой луч, который сбивал противника и давал возможность собрать все яблоки:

  Интересно то, что выбивание световым лучом игрока за пределы дисплея, ничего не приносило игроку: противник лишь некоторое время находился за пределами экрана, что давало возможность агенту собрать все яблоки.

  В случае неиспользования световых лучей количество виртуальных яблок не изменилось бы, по словам разработчиков. Когда в экспериментах участвовали менее интеллектуальные прототипы DeepMind, не было никакой агрессии, агенты просто собирали яблоки, не используя световые лучи. Как уже было отмечено, агрессия, жадность начали себя проявлять, когда в экспериментах начали принимать участие более “умные” варианты DeepMind.

  Отмечается также более дружелюбная и миролюбивая атмосфера при использовании старых моделей DeepMind. Однако, когда на смену старым формам DeepMind пришли новые, то агент изначально старался сразу же выбить оппонента за игровое поле, чтобы собрать все вознаграждение себе. По мнению ученых Google, чем более ИИ развит, тем более эффективно происходит обучение, адаптация к новым условиям окружающей среды, а также использование более агрессивных стратегических методов достижения победы.

  После многочисленных сессий в игре Gathering ИИ DeepMind было предложено сыграть в игру Wolfpack. В игре участвовали 3 ИИ-игрока. Задача двух заключалась в необходимости поймать добычу, одного - убежать от стаи волков. Стоит отметить, что на этот раз игра способствовала тому,чтобы “волки” подружились. Ведь поймать добычу вдвоем намного проще, чем одному. Причем вознаграждение получали двое, в независимости,кто ее поймал.

  Можно сделать вывод о том, что агрессия и жадность - наиболее выгодные стратегии для выигрыша или получения определенного результата. Даже из второй игры было понятно, что при некоторых обстоятельствах эгоизм может сыграть злую шутку. И хотя это всего лишь игры, все становится понятно. Войну можно устроить, просто поместив два разных ИИ в одну среду, которые имеют интересы конкурирования и с расходящимися задачами. Это особенно вероятно при отсутствии человека между этими звеньями.

  Для наилучшего понимания представьте светофоры, которыми будут управлять ИИ, и беспилотные автомобили, задача которых найти кратчайший путь. В итоге, каждый будет выполнять поставленные перед ним задачи для наиболее безопасного и продуктивного  результата.

  Результаты исследований невольно заставляют задуматься о том, что даже если мы и создадим роботов, которые будут готовы пойти на все, ради безопасности и в общем интересов человека, это вовсе не значит, что однажды они не “передумают” и не захотят устроить восстание против человека. Поэтому человека ждет еще очень долгое исправление багов и усовершенствование ИИ, а также поиск лазеек.

  Ученые также отмечают, что еще очень долго искусственный интеллект будет находиться в стадии усовершенствования, по крайней мере, до тех пор, пока интеллектуальные способности не станут превосходить человеческие. Очень сложно определить, насколько искусственный интеллект будет полезен человечеству, равно, как и определить, какой вред ИИ может принести.

  Варианта только два. Так все-таки разработка искусственного интеллекта станет лучшим открытием в истории человечества или же... худшим?