Американская компания Raytheon по заказу Министерства обороны США приступила к созданию первой в своем роде нейронной сети, которая будет способна объяснить военным, почему автономный боевой робот принял то или иное решение.

Проект получил обозначение XAI (Explainable Artificial Intelligence, «Объяснимый искусственный интеллект»). В его рамках предполагается разработка нейросети, которая не будет уступать по быстродействию обычной, но при этом сможет продемонстрировать всю логическую цепочку, как и почему управляемый искусственным интеллектом боевой робот принял то или иное решение. Объяснять свои действия нейронная сеть будет при помощи графического интерфейса.

XAI разрабатывается для масштабных проектов Министерства обороны США по созданию смешанных боевых подразделений из людей и роботов. Пентагон уверен, что совсем скоро боевые роботы придут на помощь военным американской армии и даже будут способны самостоятельно принимать решения в рамках выполнения поставленных задач – например, открывать огонь по противнику.

Для эффективного взаимодействия солдат и роботов в бою важно, чтобы люди доверяли своим электронным напарникам. При этом уровень доверия существенно повысится, если роботы смогут объяснять людям, почему они принимают то или иное решение.

Пока проект XAI находится на самой ранней стадии разработки.

по материалам информационного агентства Новые Известия от 11.09.2018 г.

Фото: © fpi.gov / Фонд перспективных исследований