2400 инженеров и ученых, работающих в сфере искусственного интеллекта (AI), подписали письмо с обещанием не работать над созданием роботов-убийц, которые могут действовать без надзора людей и убивать их. Среди подписантов Демис Хассабис, один из основателей Google DeepMind, и директор SpaceX Илон Маск. Цель письма – убедить военно-промышленный комплекс и правительства не создавать смертельные автономные системы вооружений (LAWS).
О письме объявлено на Международной конференции по искусственному интеллекту, которая сейчас проходит в Стокгольме. Это последнее мероприятие в кампании озабоченных ученых и организаций, которые хотят показать опасность передачи машинам с искусственным интеллектом решений, способных привести к смерти людей. Ранее были призывы запретить работу над технологиями, которые, по мнению участников движения за запрет роботов-убийц, могут привести к появлению оружия массового поражения нового поколения. Кампания ведется по образцу и подобию схожей кампании по запрету противопехотных мин. Участники той кампании считают ее успешной несмотря на то, что ряд крупных стран, включая США, закон, запрещающий производство и использование противопехотных мин, не подписали.
Во главе движения стоит бостонская организация «Институт будущего жизни». Письмо призывает правительства согласовать нормы, законы и правила, которые эффективно помешают созданию роботов-убийц. Пока же таких законов и правил нет, пишут подписанты, они обещают не работать над созданием LAWS и ни каким другим способом не содействовать их появлению и развитию. Кроме физических лиц, среди подписантов более 150 организаций и компаний.
Военные являются главными заказчиками работ по развитию AI. Переоценить возможности и важность роботов и компьютерных программ в военном деле трудно. Достаточно сказать, что министр обороны Великобритании Гэвин Уильямсон рассказал на этой неделе о запуске двухмиллиардного проекта по созданию нового истребителя ВВС Соединенного Королевства «Буря», который сможет летать без летчика. При этом британские власти утверждают, что Лондон не разрабатывает роботов-убийц и что британские военные всегда смогут контролировать AI.
«Мы должны сделать международной нормой запрет автономных вооружений,- заявил в интервью лондонскому Guardian Тоби Уолш, профессор AI из австралийского университета Нового Южного Уэльса.- Человек всегда должен стоять в центре всего, что связано с искусственным интеллектом. Мы не можем помешать человеку, который полон решимости создать автономные системы вооружений, так же, как не можем помешать создавать новые виды химического оружия. Но если мы не хотим, чтобы государства изгои и террористы имели легкий доступ к LAWS, то мы должны позаботиться над тем, чтобы ими хотя бы открыто не торговали военные компании».