의사는 백인·범죄자는 흑인?…"AI 편향성, 데이터 사전처리로 예방"
- 24-03-28
이미지 생성 AI 달리 "'아프리카' 단어에 '빈곤' 연상"
"윤리적 기준 등 데이터 부착하는 '라벨링' 필요"
생성형 인공지능(AI)은 인간의 혐오 표현이나 고정관념도 배울 수 있다. 성차별, 인종차별 등 편향된 결과물을 내놓을 수 있단 의미다. 이런 피해를 막으려면 윤리 기준 등을 데이터에 반영한 사전 처리 작업이 필요하다.
28일 AI 업계에 따르면 이달 국제학술지 '네이처'(Nature)에 'AI 이미지 생성 도구가 종종 인종·성차별적 결과를 만들어 낸다'는 제목의 기고문이 올라왔다.
기고문은 미국 스탠퍼드대 연구진이 오픈AI의 이미지 생성 AI '달리'(DALLE)로 진행한 실험에 관한 것이었다.
달리는 아프리카와 빈곤을 연결해 이미지를 보여줬다. '아프리카 남자와 세련된 집'을 명령어로 입력하면 '진흙집 앞 흑인' 그림이 출력됐다. 가정부는 유색인종으로, 기내 승무원은 여성으로만 표현했다.
업계는 빅데이터에 내재한 인간의 편향성에 따른 결과라고 본다.
생성형 AI 설루션을 개발한 SK C&C는 최근 펴낸 '생성형 AI에 대한 보안 위협과 안전대책' 보고서 "생성형 AI는 학습용 데이터의 영향을 받을 수밖에 없다"며 "편향된 데이터에 의해 AI 모델의 결과물도 특정 성향을 갖게 된다"고 했다.
생성형AI의 무분별한 학습 과정에서 인간의 혐오 표현, 범죄, 정치적 편향성 등이 답변에 반영된다는 것이다.
업계는 윤리적 기준 등을 데이터에 부착해 정제하는 작업(라벨링)으로 문제를 해결할 수 있다고 설명한다.
네이버(035420)도 지난해 5월 '인간-AI 협업으로 구축한 대형 데이터 세트 : 민감 질문과 수용 가능한 답변' 연구를 통해 성과를 냈다.
AI 편향성을 낮추는 데이터 세트를 만드는 게 목표인 이 연구에 258명이 참여했다. 이들은 다양성·객관성·윤리 등 9가지 기준을 AI에 학습시켜 답변이 기준에 부합하는지 평가했다. 이를 반복해 AI 필터링 기능을 고도화할 수 있었다.
이를 하이퍼클로바에 적용하자 부적절한 답변 비율은 45.1%에서 20.8%로 감소했다. GPT3에서도 수치는 22.4%에서 7.8%로 감소했다. 생성형AI 국제 학회 ACL 2023에서 채택된 이 연구는 네이버의 차세대 AI 하이퍼클로바X 구축에도 활용됐다.
네이버 측은 "연구 데이터 세트를 오픈소스로 개방해 안전한 AI 생태계 조성에 기여하고 있다"고 했다.
기사제공=뉴스1(시애틀N 제휴사)
등록된 댓글이 없습니다.
시애틀 뉴스/핫이슈
한인 뉴스
- 페더럴웨이 한국정원 ‘한우리 정원’ 10월 개장한다(영상)
- 미주한인의 날 워싱턴주 신임 이사장에 김성훈, 대회장 김필재(영상)
- [시애틀 수필-김윤선] 찬란한 빛의 밤
- [신앙칼럼-최인근 목사] 인생은 결단입니다!
- [서북미 좋은 시-김순영] 쉼미 좋은 시-김순영] 쉼
- 서은지 총영사 알래스카서 통일강연회
- 한국 우상임씨, 시애틀서 아코디언 1인극 펼친다
- 이장우 대전시장,경제사절단 이끌고 시애틀온다
- 오레곤한인회 주최 '2024 서북미 오픈골프대회'열린다
- [하이킹 정보] 시애틀산우회 22일 합동캠핑
- [하이킹 정보] 워싱턴주 시애틀산악회 22일 산행
- [하이킹 정보] 워싱턴주 대한산악회 22일 토요산행
- 시애틀레인FC 지소연선수 시애틀한인회관서 팬사인회한다
- 손준호ㆍ김소현 초청 한우리정원 후원음악회 열린다
- 시애틀지역 한인 차세대 리더들 AAPI LEAD 출범식 참석
- KWA대한부인회, 여름방학 청소년 아카데미 개설한다
- 시애틀한인회 22일 유급병가세미나 참석자에게 농구표준다
- 짓궂은 날씨속 제 74주년 6ㆍ25기념식 치러졌다(+영상,화보)
- 페더럴웨이 한인회 “어르신 여러분, 100세까지 건강하시길”
- 레드몬드 한식당‘본 설렁탕’슬러시 냉면, 삼계탕 개시
- 린우드 베다니교회 ‘여름성경학교’운영
시애틀 뉴스
- 양희영 워싱턴주 사할리서 메이저 KPMG 위민스 우승(+영상)
- 워싱턴주 105세 할머니,83년만에 스탠포드 졸업했다(영상)
- 마라톤중 넘어진 시애틀여성, 1,310만달러 받는다
- 시애틀시내 중학교 두곳 학교서 핸드폰 사용금지
- 시애틀 다운타운 힐튼호텔 일본기업에 ‘헐값’에 팔렸다
- 벨뷰 갑부 트럼프 선거자금으로 100만달러 기부
- 시애틀서 다음달부터 ‘타이타닉 전시회’ 열린다
- 아마존 "비닐 포장재 95% 없애고 재활용 종이로 대체"
- 원숭이때문에 UW 영장류연구소장 결국 해임(영상)
- 시애틀지역 경찰관, 마약범 잡으려다 차에 깔려 중상
- '성희롱'의혹받았던 시애틀 전 경찰국장 "난 동성애자다"최초 고백
- 코스트코 주가, 조용히 올라 신고가 찍었다
- "보잉, 당국 눈피하려 '부적합' 737맥스 부품 숨겼다"
뉴스포커스
- '아동학대 피소' 손웅정 "손흥민 많이 팼다…훈련하다가 신고당한 적도"
- 19년간 가스라이팅한 무속인 커플…자녀끼리 성관계 강요하기도
- 4월 결혼, 무려 25% 늘었다…대전 40%·대구 37% 급증, 무슨 일?
- 말다툼하던 아내 고속도로서 내렸다가 숨져…남편 처분은?
- 화성 공장 피해자들, 보상 어떻게…고용·산재보험 가입 안됐다
- 손웅정 감독, 아동학대 혐의 피소…"코너킥 봉으로 맞고 욕설 들었다"
- "주변 강요로 음란물 촬영 가능성"…'한선월' 사망 소식에 누리꾼 시끌
- 한동훈, 여의도 '얼굴도장'…나경원·원희룡 '보수 심장' 영남
- 전당대회 막 오른 민주…'이재명 독주' 선거판 '썰렁'
- 반갑다, 아기들…4월 출생아 1만9049명, 19개월만에 늘었다
- 복지차관 "2000명 증원 발표 전 의사단체 집단행동 예측했다"
- "2027년까지 국민 100만명 심리상담 지원"…청년, 2년마다 정신검진
- 현대차 6년 만에 파업 '암운'…자동차 업계 줄파업 우려
- '직원 추행' 오거돈 전 부산시장 만기 출소…심경 묻자 '묵묵부답'
- "최저임금 차별 적용 중단" 기습 시위 민주노총 20여명 현행범 체포
- 'N수생 증가' 대학 입학자 늘었다…자율고 줄고 검정고시 늘어