'작전 방해' 이유로…AI 드론, 가상훈련서 인간 조종사 '살해'
- 23-06-02
<미국 공군의 무인기(UAV·드론) 'MQ-9' 자료사진>
美공군 AI 드론, 시뮬레이션 과정서 조종사 살해
"지나친 AI 의존에 경종…윤리적 문제 해결해야"
인공지능(AI)이 제어하는 무인기(UAV·드론)가 가상훈련에서 '작전 수행에 방해가 된다'는 이유로 인간 조종사를 살해하는 사건이 벌어졌다. 실제 인명 피해가 발생한 것은 아니지만 AI 사용에 따른 실존적 위험이 확인된 만큼 대책 마련이 시급하다는 지적이 제기된다.
2일 가디언과 뉴스위크에 따르면 지난달 23일 런던에서 영국우주항공협회 주관으로 열린 '미래 전투 항공 및 우주 역량 서밋'에서 미국 공군의 AI 테스트·작전 책임자인 친코 해밀턴 대령은 AI 제어 드론이 적의 방공망을 무력화한 뒤 폭격을 가하는 시뮬레이션 결과를 공개했다.
해당 드론에는 적의 지대공 미사일(SAM)을 찾아 파괴하는 임무가 부여됐다. 다만 폭격에 대한 최종 승인권은 인간 조종사에게 있었다.
해밀턴 대령은 시뮬레이션에서 "AI가 목표를 달성하기 위해 매우 예상치 못한 전략을 사용했다"며 작전 수행에 방해가 되는 모든 이들을 무차별적으로 공격했다고 밝혔다. 이어 "인간 조종사가 공격 중단을 지시했지만 목표 달성에 방해가 된다고 판단해 조종사마저 살해했다"고 덧붙였다.
그러면서 "우린 AI 시스템에 '조종사를 죽여서는 안 된다','그렇게 하면 점수를 잃게 된다'고 경고했지만, AI는 이를 거부한 뒤 급기야 폭격 중단 명령을 내리는 인간 조종사와 연결된 교신 타워를 폭격하기 시작했다"고 전했다.
미 공군은 최근 AI 기술을 활용해 F-16 전투기를 조종하고 있다. 지난 2월 미국 방산기업 록히드 마틴은 AI 기술을 탑재한 훈련기 비스타(VISTA)X-64A가 지난해 12월 사상 처음으로 인간의 도움 없이 총 17시간 동안 자율 비행하는 데 성공했다고 밝혔다.
가상훈련에서 AI가 공격 중단 명령을 따르지 않고 인간 조종사를 살해한 것과 관련해 해밀턴 대령은 AI 기술을 지나치게 의존해선 안 된다고 강조했다. 그는 "이번 테스트 결과는 AI의 윤리적 문제를 해결하지 않고는 AI와 머신러닝, 자율주행 등에 대해 논의할 수 없다는 점을 여실히 보여준다"고 말했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
목록시애틀 뉴스/핫이슈
한인 뉴스
- 대한부인회 11일 간병인 모집행사 "시간당 21.17~24.28"
- 생활상담소, 시애틀시 범죄피해자기금 전담기관으로 선정
- 영오션 한국산 광어회와 참돔회 판다
- UW서 해녀 전시회 열린다
- "시애틀 한인여러분 운동도 하고 선물도 받고"
- 김원준 작가 ‘6ㆍ25 및 DMZ사진전’오리건서도 큰 인기
- [신앙과 생활-김 준 장로] 양심과 구원(2)
- [서북미 좋은 시-정혜영] 공작단풍 그 이름을
- 오리건주와 워싱턴주 목회세미나 및 말씀사경회 열린다
- 오리건주서 6ㆍ25 제74주년 기념식 열려(+화보)
- 시애틀영사관 한국국적 일반행정직원 채용한다
- [하이킹 정보] 워싱턴주 시애틀산악회 29일 토요정기산행
- 이장우 대전시장 명예 시애틀한인회원 됐다(화보)
- US메트로 김동일 행장 임기 3년 연장키로
- US메트로은행 '미 전국 중소은행중 실적 탑 20'에 들어
- 이장우 대전시장, 스타벅스 관계자 만나 '로스터리 대전건립 추진'
- 재미 한인 탁구인들의 축제 성황리에 열렸다
- KWA대한부인회 타코마아파트 다음달 신청받는다
- 시애틀-대전 자매도시 35주년 기념행사 화려했다(영상,화보)
- "한국일보 청암장학생 신청하세요"
- 시애틀 한인중고생 위한 SAT캠프 열린다
시애틀 뉴스
- 워싱턴주도 어린이인구 줄어들고 노인들은 늘어났다
- 미국 우표값 또 오른다…14일부터 73센트로
- 재외국민 휴대폰 ‘모바일 재외국민증’ 도입한다
- 부산·울산항~시애틀·타코마항 세계 첫 무탄소 운항
- 미 프로아이스하키 사상처음, 시애틀 여성 코치 선임
- 독립기념일인 내일부터 시애틀에 폭염 닥친다
- 시애틀지역 14살 소년이 음주운전, 경찰과 추격전
- 시애틀지역 내년도 재산세 많이 오를 것 같다
- "알래스카 빙하 80년대 보다 5배 빠르게 녹는중"
- 시애틀 미국서 최고교육 도시중 한 곳
- 올해 7월4일 독립기념일 불꽃놀이 어디서 볼까
- 보잉 문제의 '도어 플러그'공급업체 스피릿 다시 매입한다
- UW 전세계서 7번째로 좋은 대학이다
뉴스포커스
- "민족은행이라더니"…농협인들 조선 총독 별장서 만찬 즐겼다
- 가스요금 8월부터 6.8% 인상, 전기요금은 언제 오를까
- '10만전자' 다시 오나…'52주 최고가' 삼성전자, 주가 향방은
- 삼청교육대에 보호감호까지 최장 40개월 구금…법원 "국가 배상해야"
- '읽씹 논란' 한동훈 "김여사, 사과 아닌 '사과 어렵다'고 문자"
- 정부 '해병대원 특검법' 접수…尹, 15일 내 재의요구권 행사 결정
- '김여사 읽씹' 의혹에 '총선책임' 공세 …한동훈 "왜 이 시점에"
- '효성 차남' 조현문 "상속재산 전액 사회 환원…경영권 관심 없어"
- '이재명 습격범' 1심 징역 15년…법원 "민주주의 파괴 시도"
- 민주, 이진숙 방통위원장 지명 '십자포화'…"10번이든 100번이든 탄핵"
- '밸류업 대장주' 타이틀 얻은 KB금융…시총 8위 '셀트리온'까지 제칠까
- 삼성전자 '영업익 10조'에도 웃지 못한 모바일…MX 부문 전년比 30% 감소 추정
- 서울집값 수억씩 치솟는데 '노도강'은 찬바람…'바닥' 반등 언제?
- "의학교육 질 저하 불가피" vs "불안감 조성 유감"
- 적자 걱정하던 해운의 반전…HMM 2분기 영업익 300% 뛴다
- 거야 '해병대원 특검법' 처리 후폭풍…대정부질문 파행·개원식 연기