구글, AI 로봇이 사람을 죽이지 않도록 ‘로봇 헌법’ 작성

    딥마인드 로봇팀은 로봇이 더 빠르고, 더 좋고, 더 안전한 의사결정을 내리는 데 도움이 될 세 가지 새로운 기술을 공개했습니다. 그 중 하나는 ‘로봇 헌법’을 통해 학습 데이터를 수집하는 시스템으로, 로봇 사무 비서가 방해가 되는 인간 동료를 죽이지 않고도 더 많은 프린터 용지를 가져올 수 있도록 합니다.

    Google의 데이터 수집 시스템인 AutoRT는 시각 언어 모델(VLM)과 대규모 언어 모델(LLM)을 함께 사용하여 환경을 이해하고, 낯선 환경에 적응하며, 적절한 작업을 결정할 수 있습니다. 아이작 아시모프의 ‘로봇의 세 가지 법칙’에서 영감을 얻은 로봇 헌법은 사람, 동물, 날카로운 물체, 심지어 전기 제품과 관련된 작업을 선택하지 않도록 LLM에 지시하는 일련의 ‘안전 중심 프롬프트’로 설명할 수 있습니다.

    안전을 강화하기 위해 딥마인드는 관절에 가해지는 힘이 특정 임계값을 초과하면 로봇이 자동으로 멈추도록 프로그래밍하고, 작업자가 비활성화하는 데 사용할 수 있는 물리적 킬 스위치도 포함시켰습니다. Google은 7개월에 걸쳐 53대의 자동 로봇을 4개의 사무실 건물에 배치하고 77,000회 이상의 실험을 실시했습니다. 일부 로봇은 작업자가 원격으로 제어했고, 다른 로봇은 스크립트에 따라 작동하거나 Google의 로봇 트랜스포머(RT-2) AI 학습 모델을 사용하여 완전히 자율적으로 작동했습니다.

AutoRT는 각 작업에 대해 다음 네 단계를 따릅니다. / 출처 : THEVERGE

     시험에 사용된 로봇은 카메라, 로봇 팔, 이동식 베이스만 장착되어 있어 화려하기보다는 실용적으로 보입니다. “각 로봇에 대해 시스템은 VLM을 사용하여 주변 환경과 시야에 있는 물체를 파악합니다. 그런 다음 LLM은 ‘과자를 조리대 위에 올려놓기’와 같이 로봇이 수행할 수 있는 창의적인 작업 목록을 제안하고 로봇이 수행할 적절한 작업을 선택하는 의사 결정자 역할을 합니다.”라고 Google은 블로그 게시물에서 설명합니다.

    딥마인드의 다른 신기술로는 기존 로봇 트랜스포머 RT-2를 더 정확하고 빠르게 만들기 위해 설계된 신경망 아키텍처인 SARA-RT가 있습니다. 또한 로봇이 테이블을 닦는 것과 같은 특정 물리적 작업을 더 잘 수행할 수 있도록 2D 윤곽선을 추가하는 RT-Trajectory도 발표했습니다. 자율적으로 음료를 서빙하고 베개를 보풀어주는 로봇이 등장하기까지는 아직 멀었지만, 그런 로봇이 등장한다면 AutoRT와 같은 시스템을 통해 학습할 수 있을 것입니다.