Специалисты Google, OpenAI, а также ученые Университета Беркли и Стэнфордского университета сформулировали пять основных проблем, которые необходимо учитывать при проектировании роботов и систем искусственного интеллекта. Статья, в которой они описаны, опубликована в блоге Google.

Почему это важно
Риски, связанные с внедрением роботов и искусственного интеллекта, сегодня привлекают внимание общественности, однако часто проблемы рассматриваются лишь в общем виде, либо акцентируются негативные стороны разработок. Основными проблемами, которые требуется учитывать в процессе создания роботов и ИИ, являются:

1. Избегание негативных побочных эффектов. К примеру, робот может разбить вазу, чтобы ускорить процесс уборки, а этого быть не должно.

2. Избегание жульничества. Робот должен убрать мусор, а не прятать его.

3. Масштабируемость надзора. Робот не должен надоедать владельцу вопросами, используя возможность получить совет эффективно.

4. Безопасное обучение. Робот-уборщик не должен экспериментировать с протиранием розеток мокрой тряпкой.

5. Устойчивость к изменению вида деятельности. Опыт, полученный роботом при уборке пола в цеху фабрики, может быть небезопасно применять при уборке офиса.

Как решить эти проблемы
Эксперты не описывают единого механизма действий, который может решить все проблемы при создании ИИ и роботов. Однако они рекомендуют оставить человеческий надзор за ними, ограничить пространство деятельности каждой системы, применять в обучении симуляции.

В Google подчеркивают, что только строгое, открытое и межинституциональное соблюдение правил обеспечит эффективное и безопасное развитие систем искусственного интеллекта и робототехники. Впрочем, до сих пор не существует правовых инструментов продуктивного регулирования в этой сфере, поэтому придерживаться законов или нет, каждый разработчик фактически решает сам.