"AI로 인류 멸종할수도…킬러 로봇에 사용 가능성 높아" 美보고서
- 24-03-13
美국무부 의뢰 글래드스톤AI 작성…1년간 민관 전문가 200명 인터뷰
"AGI 출현시 첨단무기 통제불가"…성능 제한·오픈소스 불법화 제안
생성형 인공지능(AI)으로 인류가 멸종할 수도 있다는 다소 충격적인 내용의 보고서가 공개됐다.
챗GPT와 같은 생성형 AI 모델이 일상 속에 자리 잡은 가운데 인류가 빠르게 발전하는 AI 기술에 대한 통제력을 상실할 경우 치명적인 결과를 피하기 어려운 만큼 정부가 즉각 규제해야 한다는 제언도 담겼다.
미국 시사주간지 타임은 AI 기술 분석업체 글래드스톤AI가 작성한 '첨단 AI의 안전과 보안을 강화하기 위한 실행 계획'이란 제목의 247쪽 분량의 보고서를 입수해 11일(현지시간) 단독으로 보도했다.
보고서는 미국 국무부가 2022년 11월 의뢰한 것으로 업체는 지난 1년간 주요 AI 기업 관계자와 미 행정부 관료, 사이버보안 연구원, 무기 전문가 등 200여명을 대상으로 심층 인터뷰를 진행한 뒤 지난달 26일 국무부에 제출했다.
글래드스톤AI는 이번 보고서를 통해 AI 기술이 각국 군사 무기에 도입되는 상황을 가장 큰 위협으로 간주했다. 그러면서 AI는 앞으로 "각종 생화학전과 사이버 공격을 설계 및 실행하고 전투 로봇을 조종하는 데 사용될 가능성이 높다"고 내다봤다.
문제는 군사기술에 활용된 AI가 인간의 통제로부터 벗어나는 경우에 발생한다. 보고서는 "현재의 기술을 사용해 AI가 개발될 경우 통제할 수 없으며 기본적으로 인간에게 적대적으로 행동할 수 있다고 믿을 만한 이유가 있다"고 분석했다.
특히 인간의 사고능력을 뛰어넘는 이른바 '범용 인공지능(AGI)'이 출현하면 통제력 상실 위험은 더욱 커진다. AGI는 스스로 학습한 내용을 토대로 다양한 상황에 독자적으로 대처할 수 있기 때문이다. 인간의 명령 없이도 각종 무기 작동이 가능하다. 보고서는 "AGI의 부상은 핵무기나 대량살상무기의 도입을 연상시킨다"고 경고했다.
보고서는 기업의 자체적인 내부 통제는 불가능하다고 단언했다. AI 기업들은 꿈의 기술인 AGI를 가장 먼저 개발하면 경제적 보상을 독차지할 수 있는 만큼 안전보다는 속도를 우선하기 때문이다. 기업 내부에 AI 안전 책임자들이 있긴 하지만 이들의 의견이 경영에 반영되지는 못하는 실정이라고 보고서는 지적했다.
이에 보고서는 미국 정부가 개발 과정에 개입해 AGI 출현을 늦출 것을 촉구했다. 입법을 통해 오픈AI나 구글과 같은 기술 선도 기업을 대상으로 일정 수준 이상의 컴퓨팅 성능을 사용해 AI 모델을 훈련하는 것을 불법으로 규정하고, 첨단 소프트웨어의 소스 코드를 외부로 공개(오픈소스)하는 것을 금지하는 방식이다.
다만 보고서는 AGI의 출현이 아직 임박하지 않았다고 판단했다. 주요 AI 기업들이 2028년 AGI에 도달할 수 있다고 공개적으로 밝힌 것과 대비된다. AGI 개발을 위해선 강력한 연산능력을 가진 고성능 AI 반도체를 필요로 하는데, 현재 AI 반도체 수요가 공급을 따라가지 못하고 있는 데다 AI 반도체의 하드웨어 성능이 기대에 미치지 못하고 있어서다.
등록된 댓글이 없습니다.
목록시애틀 뉴스/핫이슈
한인 뉴스
- 시애틀타임스 “양희영, 은퇴하면 안될 실력자다”
- [영상] 샛별예술단 베냐로야홀서 공연 펼쳐
- 지소연 선수, 시애틀한인회 명예회원됐다(+영상,화보)
- 페더럴웨이 한국정원 ‘한우리 정원’ 10월 개장한다(영상)
- 미주한인의 날 워싱턴주 신임 이사장에 김성훈, 대회장 김필재(영상)
- [시애틀 수필-김윤선] 찬란한 빛의 밤
- [신앙칼럼-최인근 목사] 인생은 결단입니다!
- [서북미 좋은 시-김순영] 쉼미 좋은 시-김순영] 쉼
- 서은지 총영사 알래스카서 통일강연회
- 한국 우상임씨, 시애틀서 아코디언 1인극 펼친다
- 이장우 대전시장,경제사절단 이끌고 시애틀온다
- 오레곤한인회 주최 '2024 서북미 오픈골프대회'열린다
- [하이킹 정보] 시애틀산우회 22일 합동캠핑
- [하이킹 정보] 워싱턴주 시애틀산악회 22일 산행
- [하이킹 정보] 워싱턴주 대한산악회 22일 토요산행
- 시애틀레인FC 지소연선수 시애틀한인회관서 팬사인회한다
- 손준호ㆍ김소현 초청 한우리정원 후원음악회 열린다
- 시애틀지역 한인 차세대 리더들 AAPI LEAD 출범식 참석
- KWA대한부인회, 여름방학 청소년 아카데미 개설한다
- 시애틀한인회 22일 유급병가세미나 참석자에게 농구표준다
- 짓궂은 날씨속 제 74주년 6ㆍ25기념식 치러졌다(+영상,화보)
시애틀 뉴스
- 시애틀지역 재산세 감면 혜택자 크게 늘어난다
- 시애틀타임스 “양희영, 은퇴하면 안될 실력자다”
- 양희영 워싱턴주 사할리서 메이저 KPMG 위민스 우승(+영상)
- 워싱턴주 105세 할머니,83년만에 스탠포드 졸업했다(영상)
- 마라톤중 넘어진 시애틀여성, 1,310만달러 받는다
- 시애틀시내 중학교 두곳 학교서 핸드폰 사용금지
- 시애틀 다운타운 힐튼호텔 일본기업에 ‘헐값’에 팔렸다
- 벨뷰 갑부 트럼프 선거자금으로 100만달러 기부
- 시애틀서 다음달부터 ‘타이타닉 전시회’ 열린다
- 아마존 "비닐 포장재 95% 없애고 재활용 종이로 대체"
- 원숭이때문에 UW 영장류연구소장 결국 해임(영상)
- 시애틀지역 경찰관, 마약범 잡으려다 차에 깔려 중상
- '성희롱'의혹받았던 시애틀 전 경찰국장 "난 동성애자다"최초 고백
뉴스포커스
- '아동학대 피소' 손웅정 "손흥민 많이 팼다…훈련하다가 신고당한 적도"
- 19년간 가스라이팅한 무속인 커플…자녀끼리 성관계 강요하기도
- 4월 결혼, 무려 25% 늘었다…대전 40%·대구 37% 급증, 무슨 일?
- 말다툼하던 아내 고속도로서 내렸다가 숨져…남편 처분은?
- 화성 공장 피해자들, 보상 어떻게…고용·산재보험 가입 안됐다
- 손웅정 감독, 아동학대 혐의 피소…"코너킥 봉으로 맞고 욕설 들었다"
- "주변 강요로 음란물 촬영 가능성"…'한선월' 사망 소식에 누리꾼 시끌
- 한동훈, 여의도 '얼굴도장'…나경원·원희룡 '보수 심장' 영남
- 전당대회 막 오른 민주…'이재명 독주' 선거판 '썰렁'
- 반갑다, 아기들…4월 출생아 1만9049명, 19개월만에 늘었다
- 복지차관 "2000명 증원 발표 전 의사단체 집단행동 예측했다"
- "2027년까지 국민 100만명 심리상담 지원"…청년, 2년마다 정신검진
- 현대차 6년 만에 파업 '암운'…자동차 업계 줄파업 우려
- '직원 추행' 오거돈 전 부산시장 만기 출소…심경 묻자 '묵묵부답'
- "최저임금 차별 적용 중단" 기습 시위 민주노총 20여명 현행범 체포
- 'N수생 증가' 대학 입학자 늘었다…자율고 줄고 검정고시 늘어