Автономным оружием или автономными системами вооружений (AWS) военные эксперты называют виды оружия, которые все делают сами: и находят цель, и выполняют поставленную задачу без вмешательства человека. Одной из наиболее известных, пока только по научно-фантастическим фильмам и книгам AWS считаются так называемые «роботы убийцы».
О смертельной угрозе от роботов убийц пишет в открытом письме-предостережении в ООН Илон Маск и более сотни других специалистов по робототехнике. Маск, Мустафа Сулейман, создатель AI-компании DeepMind Technologies, которая сейчас принадлежит Google, и еще 114 экспертов из 26 стран предупреждают ООН о том, что гонка вооружений в AWS может открыть ящик Пандоры, который способен причинить человечеству труднопрогнозируемый и очень большой вред. Они требуют запретить разработку и внедрение автономных систем вооружений.
Все подписанты прекрасно разбираются в вопросе, потому что работают в области искусственного интеллекта (AI). Они уверены, что поступление на вооружение армий развитых государств роботов-убийц будет иметь для военного дела такое же значение, как изобретение пороха и ядерного оружия, которые они называют первой и второй революциями в военном деле. AWS, считают они, станут третьей революцией.
«После доведения до высокого уровня, автономные системы вооружений выведут военные конфликты к такой степени размаха, которую человечество еще не видело,- говорится в коллективном письме. — Причем, произойдет это с огромной скоростью. AWS могут стать оружием террора, оружием, которое деспоты и террористы будут применять против мирного населения...»
Авторы письма предупреждают о гипотетическом пока еще оружии, которое сможет без участия человека уничтожать людей. Близок день, когда из разряда фантастики оно станет суровой реальностью и заставит искать ответы на множество сложных вопросов, начиная от безопасного управления такими системами и заканчивая моральными и этическими проблемами, вызванных «железной» жестокостью и непредсказуемостью смертельно опасных машин.
Маск со сторонниками, разделяющими его позицию в отношении опасности AWS для человечества, подчеркивает, что времени на раздумья и дискуссии нет и что необходимо действовать немедленно. «У нас совсем немного времени,- пишут они в ООН.- Как только ящик Пандоры откроется, его будет очень трудно закрыть».
Время для написания открытого письма выбрано не случайно. Эксперты хотели приурочить его к началу работы в Мельбурне Международной конференции по искусственному интеллекту (IJCAI). Она должна была открыться в понедельник 21 августа, но ООН решила перенести ее на ноябрь.
В конце открытого письма Илон Маск с коллегами призывает ООН удвоить усилия по созданию к ноябрю стратегии, которая должна будет защитить планету от роботов убийц.
Ранее, сам Маск предупреждал об опасности работ по искусственному интеллекту как таковому, поскольку основанные на нем системы могут выйти из под контроля человека. При этом автомобили с электродвигателями Tesla уже ездят по дорогам США в беспилотном режиме, что не обходится без происшествий.