미국 국방부는 ML 알고리즘을 사용하여 공습 대상을 찾고 있음

챗봇 킬: 2017년 미 국방부는 실시간 전투 상황에서 목표물을 식별하기 위해 머신러닝(ML) 기술을 적용하는 프로젝트 메이븐을 설립했습니다. 이 프로그램은 이제 제대로 된 전쟁 도구로 거듭난 것처럼 보이지만, 미군 구성원들은 여전히 최종 방아쇠를 당기는 것은 사람이라고 말합니다.

미 국방부는 2월 초부터 이라크와 시리아에서 85건이 넘는 공습의 목표물을 식별하는 데 머신러닝 알고리즘을 사용했습니다. 미국 중앙사령부(CentCom)의 CTO인 슐러 무어에 따르면, 미 국방부는 2023년 10월 7일 하마스 테러리스트가 이스라엘을 공격한 이후 실제 전투 상황에서 AI 기술을 사용하기 시작했다고 합니다.

무어는 블룸버그와의 인터뷰에서 테러리스트의 기습 공격으로 모든 것이 바뀌었고, 국방부는 마침내 프로젝트 메이븐에서 개발한 AI 알고리즘을 배치하기로 결정했다고 말했습니다. 미군은 즉시 AI 전쟁 기술로 한 번도 해보지 않은 일을 시작했습니다.

“10월 7일 모든 것이 바뀌었습니다.”라고 무어는 말합니다. “우리는 즉시 높은 기어로 전환했고 이전보다 훨씬 더 빠른 작전 템포로 전환했습니다.”

개발자들은 미국 드론이 촬영한 비디오 영상에서 작동하도록 프로젝트 메이븐의 알고리즘을 설계하여 군인이나 기타 잠재적 공습 표적을 탐지하는 데 도움을 주었습니다. 센트콤은 지난 2월 2일부터 메이븐 AI를 통해 적의 로켓, 미사일, 드론, 민병대 시설을 식별하고 파괴했습니다.

무어는 AI와 관련된 모든 단계는 사람의 검증을 거쳐야 한다며 새로운 물체 인식 알고리즘의 ‘살상’ 기능에 대한 의혹을 해명하려고 노력했습니다. 센트콤은 또한 공격 계획과 작전 중에 사용할 최적의 무기를 제안하는 AI 추천 엔진을 사용했습니다. 하지만 그 결과는 인간의 기준에 미치지 못했습니다.

프로젝트 메이븐은 최근 몇 년 동안 많은 논란을 불러일으켰습니다. 구글은 직원들의 거센 반발에 부딪혀 프로그램을 중단했지만, 다른 기업들은 국방부 관계자와 함께 AI 전쟁 연구를 계속하고 싶어 했습니다.

무어가 공개한 AI를 이용한 공습에서 알 수 있듯이, 국방부는 이제 ‘지능형’ 기술을 전장에 배치하는 것을 기꺼이 추진하고 있습니다. 국방부는 이미 대규모 언어 모델(LLM)을 실제 전투 결정에 통합하기 위해 노력하고 있는 것으로 보입니다.

국방부 최고 디지털 및 AI 책임자인 크레이그 마텔은 최근 미국이 전쟁 작전에서 생성형 AI 모델을 채택하지 않으면 적에게 뒤처질 수 있다고 말했습니다. 물론 미국 정부는 국가 안보 위험에 대한 적절한 ‘보호 조치’와 완화책을 마련하여 훈련 데이터가 제대로 관리되지 않아 발생할 수 있는 문제를 예방하고 대처해야 합니다.