의사는 백인·범죄자는 흑인?…"AI 편향성, 데이터 사전처리로 예방"
- 24-03-28
이미지 생성 AI 달리 "'아프리카' 단어에 '빈곤' 연상"
"윤리적 기준 등 데이터 부착하는 '라벨링' 필요"
생성형 인공지능(AI)은 인간의 혐오 표현이나 고정관념도 배울 수 있다. 성차별, 인종차별 등 편향된 결과물을 내놓을 수 있단 의미다. 이런 피해를 막으려면 윤리 기준 등을 데이터에 반영한 사전 처리 작업이 필요하다.
28일 AI 업계에 따르면 이달 국제학술지 '네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.
기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.
달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.
업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.
생성형 AI 설루션을 개발한 SK C&C는 최근 펴낸 '생성형 AI에 대한 보안 위협과 안전대책' 보고서 "생성형 AI는 학습용 데이터의 영향을 받을 수밖에 없다"며 "편향된 데이터에 의해 AI 모델의 결과물도 특정 성향을 갖게 된다"고 했다.
생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영된다는 것이다.
업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명한다.
네이버(035420)도 지난해 5월 '인간-AI 협업으로 구축한 대형 데이터 세트 : 민감 질문과 수용 가능한 답변' 연구를 통해 성과를 냈다.
AI 편향성을 낮추는 데이터 세트를 만드는 게 목표인 이 연구에 258명이 참여했다. 이들은 다양성·객관성·윤리 등 9가지 기준을 AI에 학습시켜 답변이 기준에 부합하는지 평가했다. 이를 반복해 AI 필터링 기능을 고도화할 수 있었다.
이를 하이퍼클로바에 적용하자 부적절한 답변 비율은 45.1%에서 20.8%로 감소했다. GPT3에서도 수치는 22.4%에서 7.8%로 감소했다. 생성형AI 국제 학회 ACL 2023에서 채택된 이 연구는 네이버의 차세대 AI 하이퍼클로바X 구축에도 활용됐다.
네이버 측은 "연구 데이터 세트를 오픈소스로 개방해 안전한 AI 생태계 조성에 기여하고 있다"고 했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- [하이킹 정보] 워싱턴주 대한산악회 22일 토요산행
- 시애틀레인FC 지소연선수 시애틀한인회관서 팬사인회한다
- 손준호ㆍ김소현 초청 한우리정원 후원음악회 열린다
- 시애틀지역 한인 차세대 리더들 AAPI LEAD 출범식 참석
- KWA대한부인회, 여름방학 청소년 아카데미 개설한다
- 시애틀한인회 22일 유급병가세미나 참석자에게 농구표준다
- 짓긏은 날씨속 제 74주년 6ㆍ25기념식 치러졌다(+영상,화보)
- 페더럴웨이 한인회 “어르신 여러분, 100세까지 건강하시길”
- 레드몬드 한식당‘본 설렁탕’슬러시 냉면, 삼계탕 개시
- 린우드 베다니교회 ‘여름성경학교’운영
- [시애틀 수필-염미숙] 메모리얼 벤치
- [신앙과 생활-김 준 장로] 양심과 구원(1)
- 서은지총영사, 코리아나이트 시구 외교부 유튜브채널로 제작돼(+영상)
- 시애틀한인회,유급병가 세미나 개최한다
- [하이킹 정보] 시애틀산우회15일 합동산행
- [하이킹 정보] 워싱턴주 시애틀산악회 15일 산행
- [하이킹 정보] 워싱턴주 대한산악회 15일 토요산행
- 삼성 이재용, 시애틀서 아마존 CEO만나
- “한인상공인 여러분,그랜트나 대출기회 넘쳐요”
- “22일 베냐로야홀서 무료 공연 즐기세요”
- “전주서 열리는 세계한인비즈니스대회 신청하세요”
시애틀 뉴스
- 코스트코 주가, 조용히 올라 신고가 찍었다
- "보잉, 당국 눈피하려 '부적합' 737맥스 부품 숨겼다"
- "왜 이리 비싸" 커피 던진 남성…시애틀여사장, 망치 꺼내 차유리 '쾅'[영상]
- 시애틀 이번 주 80도 돌파하며 더위온다
- 미국 시민권자 불체 배우자도 합법체류 허용한다
- 안전사고 수차례 낸 보잉, 미 의회서 CEO가 사과한다
- 사고뭉치 보잉, 새로운 CEO찾기도 어렵다
- 차량공유기사가 술취한 여성승객 성폭행했다 총맞아
- 시애틀은 은퇴 없이 일해야 하는 도시인가?
- 오리건서 놀이기구 고장나 이용자 30분간 공중에 '거꾸로'
- 빌 게이츠 "차세대 원전에 1.4조 투자…향후 추가 투입"
- 미 패스트푸드 업계, 고물가 속 "5달러" 메뉴로 가격인하 경쟁
- 시애틀 날씨 하루새 비, 바람, 우박, 햇빛까지(영상)
뉴스포커스
- 지역 대학 총장협, 2학기 등록금 인상 결의…"교육부 건의 예정"
- 선 넘은 러시아에 우크라 무기 지원 재검토로 '맞불'…한러관계 급속 냉각
- 尹 "중앙-지방정부, 법인·소득세 반반 가르고 권한도 많이 줘야"
- 경주, 내년 APEC 개최지로 사실상 확정…"문화·관광자원 우수"
- '대왕고래' 세계 최대 엑슨모빌이 추가 검증…'동해 유전' 의혹 털어낼까
- '위자료 가집행' 카드 손에 쥔 노소영…최태원-김희영 어느 쪽에 쓸까
- 의협, 임현택 빠진 '특위' 출범…정부와 대화 숨통 트이나
- '해병대원 특검법' 野단독 법사위 소위 통과…21일 입법청문회
- "자영업자 죽으라는 소리"…최저임금 업종구분 폐지 추진에 소상공인 규탄
- 나스닥상장 나선 김준구 네이버웹툰 대표, 현금보너스 415억원 받는다
- '성 상납 발언' 피소된 김준혁, 이대 상대 법적 대응 나선다
- "어디 숟가락 얹느냐"…박세리 부친 논란에 '손흥민 父' 재조명
- 한동훈, 23일 '당대표 출마' 선언 유력…여의도 사무실 임대
- 尹 "인구 국가비상사태…'자녀=부채' 아니다"
- "한동훈 당대표 막자" 교집합에서 만나는 나경원과 친윤
- KBO 역대급 흥행에…세븐일레븐 야구 카드 '품절 대란'