"AI로 인류 멸종할수도…킬러 로봇에 사용 가능성 높아" 美보고서
- 24-03-13
美국무부 의뢰 글래드스톤AI 작성…1년간 민관 전문가 200명 인터뷰
"AGI 출현시 첨단무기 통제불가"…성능 제한·오픈소스 불법화 제안
생성형 인공지능(AI)으로 인류가 멸종할 수도 있다는 다소 충격적인 내용의 보고서가 공개됐다.
챗GPT와 같은 생성형 AI 모델이 일상 속에 자리 잡은 가운데 인류가 빠르게 발전하는 AI 기술에 대한 통제력을 상실할 경우 치명적인 결과를 피하기 어려운 만큼 정부가 즉각 규제해야 한다는 제언도 담겼다.
미국 시사주간지 타임은 AI 기술 분석업체 글래드스톤AI가 작성한 '첨단 AI의 안전과 보안을 강화하기 위한 실행 계획'이란 제목의 247쪽 분량의 보고서를 입수해 11일(현지시간) 단독으로 보도했다.
보고서는 미국 국무부가 2022년 11월 의뢰한 것으로 업체는 지난 1년간 주요 AI 기업 관계자와 미 행정부 관료, 사이버보안 연구원, 무기 전문가 등 200여명을 대상으로 심층 인터뷰를 진행한 뒤 지난달 26일 국무부에 제출했다.
글래드스톤AI는 이번 보고서를 통해 AI 기술이 각국 군사 무기에 도입되는 상황을 가장 큰 위협으로 간주했다. 그러면서 AI는 앞으로 "각종 생화학전과 사이버 공격을 설계 및 실행하고 전투 로봇을 조종하는 데 사용될 가능성이 높다"고 내다봤다.
문제는 군사기술에 활용된 AI가 인간의 통제로부터 벗어나는 경우에 발생한다. 보고서는 "현재의 기술을 사용해 AI가 개발될 경우 통제할 수 없으며 기본적으로 인간에게 적대적으로 행동할 수 있다고 믿을 만한 이유가 있다"고 분석했다.
특히 인간의 사고능력을 뛰어넘는 이른바 '범용 인공지능(AGI)'이 출현하면 통제력 상실 위험은 더욱 커진다. AGI는 스스로 학습한 내용을 토대로 다양한 상황에 독자적으로 대처할 수 있기 때문이다. 인간의 명령 없이도 각종 무기 작동이 가능하다. 보고서는 "AGI의 부상은 핵무기나 대량살상무기의 도입을 연상시킨다"고 경고했다.
보고서는 기업의 자체적인 내부 통제는 불가능하다고 단언했다. AI 기업들은 꿈의 기술인 AGI를 가장 먼저 개발하면 경제적 보상을 독차지할 수 있는 만큼 안전보다는 속도를 우선하기 때문이다. 기업 내부에 AI 안전 책임자들이 있긴 하지만 이들의 의견이 경영에 반영되지는 못하는 실정이라고 보고서는 지적했다.
이에 보고서는 미국 정부가 개발 과정에 개입해 AGI 출현을 늦출 것을 촉구했다. 입법을 통해 오픈AI나 구글과 같은 기술 선도 기업을 대상으로 일정 수준 이상의 컴퓨팅 성능을 사용해 AI 모델을 훈련하는 것을 불법으로 규정하고, 첨단 소프트웨어의 소스 코드를 외부로 공개(오픈소스)하는 것을 금지하는 방식이다.
다만 보고서는 AGI의 출현이 아직 임박하지 않았다고 판단했다. 주요 AI 기업들이 2028년 AGI에 도달할 수 있다고 공개적으로 밝힌 것과 대비된다. AGI 개발을 위해선 강력한 연산능력을 가진 고성능 AI 반도체를 필요로 하는데, 현재 AI 반도체 수요가 공급을 따라가지 못하고 있는 데다 AI 반도체의 하드웨어 성능이 기대에 미치지 못하고 있어서다.
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 대한부인회 11일 간병인 모집행사 "시간당 21.17~24.28"
- 생활상담소, 시애틀시 범죄피해자기금 전담기관으로 선정
- 영오션 한국산 광어회와 참돔회 판다
- UW서 해녀 전시회 열린다
- "시애틀 한인여러분 운동도 하고 선물도 받고"
- 김원준 작가 ‘6ㆍ25 및 DMZ사진전’오리건서도 큰 인기
- [신앙과 생활-김 준 장로] 양심과 구원(2)
- [서북미 좋은 시-정혜영] 공작단풍 그 이름을
- 오리건주와 워싱턴주 목회세미나 및 말씀사경회 열린다
- 오리건주서 6ㆍ25 제74주년 기념식 열려(+화보)
- 시애틀영사관 한국국적 일반행정직원 채용한다
- [하이킹 정보] 워싱턴주 시애틀산악회 29일 토요정기산행
- 이장우 대전시장 명예 시애틀한인회원 됐다(화보)
- US메트로 김동일 행장 임기 3년 연장키로
- US메트로은행 '미 전국 중소은행중 실적 탑 20'에 들어
- 이장우 대전시장, 스타벅스 관계자 만나 '로스터리 대전건립 추진'
- 재미 한인 탁구인들의 축제 성황리에 열렸다
- KWA대한부인회 타코마아파트 다음달 신청받는다
- 시애틀-대전 자매도시 35주년 기념행사 화려했다(영상,화보)
- "한국일보 청암장학생 신청하세요"
- 시애틀 한인중고생 위한 SAT캠프 열린다
시애틀 뉴스
- 워싱턴주 생계비뿐 아니라 장례비도 많이 올랐다
- 린우드 얼더우드몰 왜 이러나…또 총격 13살 소녀 사망
- 시택공항 중국,대만, 영국 등 국제노선 대폭 늘어나
- 아마존 창업자 베이조스, 주가 급등하다 50억달러어치 팔기로
- 워싱턴주도 어린이인구 줄어들고 노인들은 늘어났다
- 미국 우표값 또 오른다…14일부터 73센트로
- 재외국민 휴대폰 ‘모바일 재외국민증’ 도입한다
- 부산·울산항~시애틀·타코마항 세계 첫 무탄소 운항
- 미 프로아이스하키 사상처음, 시애틀 여성 코치 선임
- 독립기념일인 내일부터 시애틀에 폭염 닥친다
- 시애틀지역 14살 소년이 음주운전, 경찰과 추격전
- 시애틀지역 내년도 재산세 많이 오를 것 같다
- "알래스카 빙하 80년대 보다 5배 빠르게 녹는중"
뉴스포커스
- 한동훈 "문자 논란, 당무개입이라고 생각…김건희 여사 결국 사과 안해"
- "외상의학 큰 타격…'기피 과' 될테고 둔감해질까 두려워"
- 유승민, 읽씹 논란에 "김건희, 왜 한동훈 허락받나…본인이 사과하면 될 일"
- 서울역 인근서 고령 운전자 '인도 돌진' 2명 부상…'급발진 여부' 조사
- ‘또 돈다발’…울산 아파트 화단서 2500만원 추가 발견
- "민족은행이라더니"…농협인들 조선 총독 별장서 만찬 즐겼다
- 가스요금 8월부터 6.8% 인상, 전기요금은 언제 오를까
- '10만전자' 다시 오나…'52주 최고가' 삼성전자, 주가 향방은
- 삼청교육대에 보호감호까지 최장 40개월 구금…법원 "국가 배상해야"
- '읽씹 논란' 한동훈 "김여사, 사과 아닌 '사과 어렵다'고 문자"
- 정부 '해병대원 특검법' 접수…尹, 15일 내 재의요구권 행사 결정
- '김여사 읽씹' 의혹에 '총선책임' 공세 …한동훈 "왜 이 시점에"
- '효성 차남' 조현문 "상속재산 전액 사회 환원…경영권 관심 없어"
- '이재명 습격범' 1심 징역 15년…법원 "민주주의 파괴 시도"
- 민주, 이진숙 방통위원장 지명 '십자포화'…"10번이든 100번이든 탄핵"
- '밸류업 대장주' 타이틀 얻은 KB금융…시총 8위 '셀트리온'까지 제칠까