"AI로 인류 멸종할수도…킬러 로봇에 사용 가능성 높아" 美보고서
- 24-03-13
美국무부 의뢰 글래드스톤AI 작성…1년간 민관 전문가 200명 인터뷰
"AGI 출현시 첨단무기 통제불가"…성능 제한·오픈소스 불법화 제안
생성형 인공지능(AI)으로 인류가 멸종할 수도 있다는 다소 충격적인 내용의 보고서가 공개됐다.
챗GPT와 같은 생성형 AI 모델이 일상 속에 자리 잡은 가운데 인류가 빠르게 발전하는 AI 기술에 대한 통제력을 상실할 경우 치명적인 결과를 피하기 어려운 만큼 정부가 즉각 규제해야 한다는 제언도 담겼다.
미국 시사주간지 타임은 AI 기술 분석업체 글래드스톤AI가 작성한 '첨단 AI의 안전과 보안을 강화하기 위한 실행 계획'이란 제목의 247쪽 분량의 보고서를 입수해 11일(현지시간) 단독으로 보도했다.
보고서는 미국 국무부가 2022년 11월 의뢰한 것으로 업체는 지난 1년간 주요 AI 기업 관계자와 미 행정부 관료, 사이버보안 연구원, 무기 전문가 등 200여명을 대상으로 심층 인터뷰를 진행한 뒤 지난달 26일 국무부에 제출했다.
글래드스톤AI는 이번 보고서를 통해 AI 기술이 각국 군사 무기에 도입되는 상황을 가장 큰 위협으로 간주했다. 그러면서 AI는 앞으로 "각종 생화학전과 사이버 공격을 설계 및 실행하고 전투 로봇을 조종하는 데 사용될 가능성이 높다"고 내다봤다.
문제는 군사기술에 활용된 AI가 인간의 통제로부터 벗어나는 경우에 발생한다. 보고서는 "현재의 기술을 사용해 AI가 개발될 경우 통제할 수 없으며 기본적으로 인간에게 적대적으로 행동할 수 있다고 믿을 만한 이유가 있다"고 분석했다.
특히 인간의 사고능력을 뛰어넘는 이른바 '범용 인공지능(AGI)'이 출현하면 통제력 상실 위험은 더욱 커진다. AGI는 스스로 학습한 내용을 토대로 다양한 상황에 독자적으로 대처할 수 있기 때문이다. 인간의 명령 없이도 각종 무기 작동이 가능하다. 보고서는 "AGI의 부상은 핵무기나 대량살상무기의 도입을 연상시킨다"고 경고했다.
보고서는 기업의 자체적인 내부 통제는 불가능하다고 단언했다. AI 기업들은 꿈의 기술인 AGI를 가장 먼저 개발하면 경제적 보상을 독차지할 수 있는 만큼 안전보다는 속도를 우선하기 때문이다. 기업 내부에 AI 안전 책임자들이 있긴 하지만 이들의 의견이 경영에 반영되지는 못하는 실정이라고 보고서는 지적했다.
이에 보고서는 미국 정부가 개발 과정에 개입해 AGI 출현을 늦출 것을 촉구했다. 입법을 통해 오픈AI나 구글과 같은 기술 선도 기업을 대상으로 일정 수준 이상의 컴퓨팅 성능을 사용해 AI 모델을 훈련하는 것을 불법으로 규정하고, 첨단 소프트웨어의 소스 코드를 외부로 공개(오픈소스)하는 것을 금지하는 방식이다.
다만 보고서는 AGI의 출현이 아직 임박하지 않았다고 판단했다. 주요 AI 기업들이 2028년 AGI에 도달할 수 있다고 공개적으로 밝힌 것과 대비된다. AGI 개발을 위해선 강력한 연산능력을 가진 고성능 AI 반도체를 필요로 하는데, 현재 AI 반도체 수요가 공급을 따라가지 못하고 있는 데다 AI 반도체의 하드웨어 성능이 기대에 미치지 못하고 있어서다.
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 워싱턴주 한인목회 1세대 송천호 목사 별세---쉐리 송씨 시아버지
- 시애틀한인회 “이번 주말 시페어 토치라이트 이렇게 참가”
- 한인생활상담소, 자원봉사자 모집한다
- 제79주년 광복절 시애틀 경축식 열린다
- 시애틀ㆍ벨뷰통합한국학교 유아원 개설한다…“등록 상담”
- [시애틀 수필-공순해] 환(幻)이거나 영(影)이거나
- [신앙칼럼-최인근 목사] 쉬어갈 줄 아는 지혜
- 한인운영, 레드몬드 샤부리나 ‘최고 맛집’평가 잇따라
- “당 따지지 말고 한인 2세 제이슨 문과 샘 심 밀어주세요”(영상)
- 페더럴웨이 한인노인회 상록회 즐거운 야유회 가져
- 현아, 시애틀 포함해 다음달 예정했던 북미공연 취소
- 흥미로운 한국 역사다큐멘터리 시애틀서 무료상영(영상)
- 워싱턴주 테니스협회 서북미챌린지대회 대성황
- 타코마 서미사 방생법회ㆍ백중제사 연다
- 타코마 서미사 선원 개원해 큰스님 모셨다
- [하이킹 정보] 시애틀산우회 20일 토요정기산행
- [하이킹 정보] 워싱턴주 시애틀산악회 20일 토요정기산행
- [하이킹 정보] 워싱턴주 대한산악회 20일 토요산행
- 타코마한인회 광복절 축제한마당 잔치연다
- 서울대 워싱턴동창회 올해 장학생 8명 선발 발표
- “‘치매 치료’ 90%는 가능하다고 생각합니다”
시애틀 뉴스
- 워싱턴주 자본이득세(Capital Gain Tax) 폐지될 가능성 크다
- 시애틀 최고 유명 샌드위치 ‘홈그로운’ 10개 점포 폐업한다
- 워싱턴주 회색늑대 ‘멸종위기 종’ 유지키로 결정
- “시애틀항만청 해고한 전 경찰국장에 2,420만달러 배상하라”
- 워싱턴주 주민들 크레딧카드 빚 부담 정말 크다
- 맥도날드 5달러 세트메뉴 판매기간 연장
- "워싱턴 주민여러분, 8월6일 예비선거 투표용지 받았지요?"
- 워싱턴주 주민들은 차기 주지사에게 뭘 바랄까?
- "워싱턴주에 악어가 나타났다" 소동 벌어져
- 아마존 직원들 감시하기로..."우리가 고등학생이냐"
- 시애틀 매리너스 올스타 출신 1루수 방출한다
- <긴급>조 바이든 미국 대통령 후보직 사퇴했다
- MS "이번 IT대란으로 윈도 기기 850만대 영향…복구 지원 중"
뉴스포커스
- '해병 특검법' 늘어난 이탈표…'용산과 차별화' 요구 담겼나
- 인천공항公, '변우석 과잉 경호' 논란 사설 경비업체 고소
- 與 최형두, 필리버스터 중 가운데 손가락 들어올린 이유
- 해병대원 특검법, 찬성 194표 두번째 폐기 …野 "재추진"
- '방통위법 개정안' 본회의 상정 …국힘 필리버스터 돌입
- 김건희 여사 "명품백, 심려 끼쳐 죄송"…변호인 통해 '대국민 사과'
- '임성근 구명로비 의혹' 이종호, 공수처 조사날 폰 2회 교체
- 尹·韓, 손 맞잡고 '러브샷' 화합 행보…'특검·김여사' 뇌관 조마조마
- 대법 "'타다' 기사는 근로자…쏘카가 업무결정·지휘·감독해"
- 방통위 부위원장 탄핵 추진…일시적 '0인 체제' 위기
- 공정위원장 "티몬·위메프 긴급 현장점검…집단분쟁조정 준비 착수"
- 비욘세 '선거송' 허락…팝스타들 해리스 지지대열 속속 합류
- 바이든 사퇴로 바뀌는가 싶었으나…영부인, 그대로 파리행 [올림픽]
- '도합 227세' 3인조 할아버지 절도단…88세 맏형이 '행동대원'
- "해리스, 바이든 정신 상태 숨겼다"…美공화, 또 탄핵안 제출
- 북 대남 '오물풍선', 김포공항 항공기도 멈춰 세웠다