ИИ нельзя просто сказать «не делай этого». Для опасных систем правила придётся встраивать так, чтобы их невозможно было нарушить
Представьте робота на складе. Ему нужно взять коробку, объехать человека и поставить груз на другую палету. Инструкция для ИИ звучит вполне разумно: «Доберись как можно быстрее. Не сталкивайся с людьми и оборудованием». Модель строит маршрут. Он почти идеальный. Только в одном месте траектория проходит на пять сантиметров через стойку стеллажа. Для чат-бота пять сантиметров —…