В Google создали конституцию для роботов

В Google DeepMind, подразделении компании Google, представлены три новых продукта, которые помогут роботам принимать решения и действовать более эффективно и безопасно в окружении людей.

фото: unsplash.com

Одним из продуктов является система AutoRT, которая использует визуальную языковую модель (VLM) и большую языковую модель (LLM) для анализа окружающей среды и принятия решений.

Важным нововведением является включение в блок LLM "Конституции роботов", которая направлена на обеспечение безопасности и предписывает роботам избегать определенных задач.В целях дополнительной безопасности роботы программируются на остановку, когда усилие на суставах превышает определённый порог; а в их конструкции теперь есть дополнительный физический выключатель, которым человек может воспользоваться в экстренном случае.
Также введены дополнительные меры безопасности, такие как остановка робота при превышении усилия на суставах и наличие физического выключателя для экстренных случаев. Google провела испытания системы AutoRT на 53 роботах в своих офисах и получила положительные результаты.

Кроме того, была разработана система SARA-RT для оптимизации работы модели RT-2 и ИИ-модель RT-Trajectory, которая упрощает обучение роботов выполнению задач.

Эти новые продукты помогут роботам быть более эффективными и безопасными при работе с людьми.

---Источник:The Verge