의사는 백인·범죄자는 흑인?…"AI 편향성, 데이터 사전처리로 예방"
- 24-03-28
이미지 생성 AI 달리 "'아프리카' 단어에 '빈곤' 연상"
"윤리적 기준 등 데이터 부착하는 '라벨링' 필요"
생성형 인공지능(AI)은 인간의 혐오 표현이나 고정관념도 배울 수 있다. 성차별, 인종차별 등 편향된 결과물을 내놓을 수 있단 의미다. 이런 피해를 막으려면 윤리 기준 등을 데이터에 반영한 사전 처리 작업이 필요하다.
28일 AI 업계에 따르면 이달 국제학술지 '네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.
기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.
달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.
업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.
생성형 AI 설루션을 개발한 SK C&C는 최근 펴낸 '생성형 AI에 대한 보안 위협과 안전대책' 보고서 "생성형 AI는 학습용 데이터의 영향을 받을 수밖에 없다"며 "편향된 데이터에 의해 AI 모델의 결과물도 특정 성향을 갖게 된다"고 했다.
생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영된다는 것이다.
업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명한다.
네이버(035420)도 지난해 5월 '인간-AI 협업으로 구축한 대형 데이터 세트 : 민감 질문과 수용 가능한 답변' 연구를 통해 성과를 냈다.
AI 편향성을 낮추는 데이터 세트를 만드는 게 목표인 이 연구에 258명이 참여했다. 이들은 다양성·객관성·윤리 등 9가지 기준을 AI에 학습시켜 답변이 기준에 부합하는지 평가했다. 이를 반복해 AI 필터링 기능을 고도화할 수 있었다.
이를 하이퍼클로바에 적용하자 부적절한 답변 비율은 45.1%에서 20.8%로 감소했다. GPT3에서도 수치는 22.4%에서 7.8%로 감소했다. 생성형AI 국제 학회 ACL 2023에서 채택된 이 연구는 네이버의 차세대 AI 하이퍼클로바X 구축에도 활용됐다.
네이버 측은 "연구 데이터 세트를 오픈소스로 개방해 안전한 AI 생태계 조성에 기여하고 있다"고 했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 타코마한인회 광복절 축제한마당 잔치연다
- 서울대 워싱턴동창회 올해 장학생 8명 선발 발표
- “‘치매 치료’ 90%는 가능하다고 생각합니다”
- 시애틀 한인 차량 I-5 고속도로서 총격 받아
- 유니뱅크 차기 행장으로 스테파니 윤 권한대행 임명
- 쿠쿠 밥솥 “아마존 프라임데이세일, 기회 놓치지 마세요”
- 인류무형문화유산 ‘제주 해녀’시애틀을 찾다(+영상,화보)
- ‘누구보다 열심히 살아온’박태호 회장 구순 잔치
- 워싱턴주 한인 정부납품 KSCAN 통해 첫 결실 맺었다
- 워싱턴주 한인상공회의소 야유회로 하나됐다
- 시애틀빌립보장로교회 2만달러 장학생 선발
- [신앙과 생활-김 준 장로] 양심과 구원(3)
- [서북미 좋은 시-박수경] 그리움
- 워싱턴주 한인상공회의소, 징계했던 5명 전원 사면키로
- 한국 대학생들 시애틀한인회관 찾아 봉사활동
- KWA대한부인회, 한 단계 도약하고 있다
- 시애틀연합장로교회 올해도 장학생 모집한다
- [하이킹 정보] 워싱턴주 시애틀산악회 13일 산행
- [하이킹 정보] 시애틀산우회 13일 정기산행
- [하이킹 정보] 워싱턴주 대한산악회 13일 토요산행
- “소규모 한인 건설업,정부계약 도와드립니다”
시애틀 뉴스
- 시애틀아동병원, 수술 불가능했던 악성 뇌암 치료성공
- 오른손 왼손 모두 95마일 던지는 괴물투수, 시애틀 매리너 입단
- 좌석 승급된 아내 폭행한 시애틀 전 목사 체포
- 워싱턴주 백만장자가 진보정책 반대하는 발의안 3개 상정
- 시애틀 사무실건물 아파트 전환에 특혜준다
- 한인들에게도 인기 ‘에어 서플라이’내일 시애틀공연(영상)
- AI선두기업 오픈AI 시애틀로도 진출한다
- 컬럼비아강에 삭카이 연어 기록적으로 올라오지만 '걱정'
- 올해 7월 초 시애틀 수은주 예년보다 12도 높았다
- 연회비 인상 코스트코 주식 사야하나?
- 시애틀 마무리투수 무뇨즈, 올스타 추가 선발됐다
- 코스트코 7년만에 연회비 올린다
- 워싱턴주 인기 물놀이공원, 대대적 리모데링해 다시 개장
뉴스포커스
- 임성근 "증언 하되 증인 선서 거부"… 특검법 청문회 때도 '거부'
- '공소 취소 부탁' 미풍일까 태풍일까…與 전대 오늘부터 투표
- '김용 재판 위증교사' 이재명 대선캠프 관계자 2명 보석 인용
- 한국인·중국인 싸잡아 "불쾌하니 오지마"…日도쿄식당 안내문 시끌
- "36주 태아 낙태女, 처벌 곤란…'헌법 불합치' 적용할 법 없다" 변호사 주장
- 진짜 삼겹살에 상추 싸 먹어야 할 판…상추 1박스 도매가 6만원
- 순직 해병 1주기…野 '수사 외압' 집중하며 특검법 여론전
- '개식용 종식법' 지원안 기존보다 후퇴…업계 "정부가 사지로 내밀어"
- 출고가 인상 영향…'갤폴더블' 사전판매, 전년比 11만대 감소
- '美검찰 피소' CIA출신 수미 테리, 탈북 다큐영화로 에미상 후보 올라
- '큰별' 현철, 태진아·설운도 애도 속 영면…하늘도 울었다
- "임신한 것 같다" 병원 갔더니 10개월, 당일 출산…역대급 고딩엄마 '충격'
- 낚시 갔다 급류에 휩쓸려 2명 실종…'물 폭탄' 피해 속출
- 과기장관 유상임·민주평통사무처장 태영호·국무2차장 남형기
- 이재명 "종부세·금투세, 실용적 관점서 잘못된 부분 수정해야"
- 유재석 사는 87억 논현동 아파트…'호텔급' 커뮤니티 가보니