입력과 출력에 관한 오
AI의 성능과 영향력은 모델보다 입력 데이터의 품질에 훨씬 크게 좌우된다. 오베타 샘슨은 제품 개발자가 문제에 필요한 최소한의 데이터, 즉 최종 사용자와 사업 목적을 충분히 대표하면서도 불필요한 인간적 위험을 키우지 않는 ‘최소 실행 가능 데이터(minimum viable data)’를 고민해야 한다고 주장한다. 데이터는 중립적이지 않으며, 누구를 포함하고 배제했는지가 AI의 결과와 피해를 결정한다. ## 데이터는 사람과 분리될 수 없다 - 데이터는 저절로 존재하지 않는다. 사람이 생성하고, 수집하고, 분류하고, 가공하고, 해석한다. - 따라서 데이터의 누락이나 편향은 단순한 기술적 결함이 아니라 특정 집단의 경험과 존재가 배제된 결과일 수 있다. - 제품 개발자가 데이터 포인트를 사람과 분리해 바라보면, 사회적·문화적·경제적 차별이 반영된 ‘트라우마를 가진 데이터셋’을 만들 수 있다. - 샘슨은 “데이터 없이는 AI와 ML이 없고, 사람 없이는 데이터도 없다”고 강조한다. ## 역사적 배제가 모델의 편향을 만든다 - 미국의 신용평가 모델은 여성의 금융 접근이 제한되던 시대의 데이터를 바탕으로 발전했다. - FICO 점수의 기반이 된 수학 공식은 1958년에 작성됐다. - 하지만 미국 여성은 1970년대까지 주택담보대출을 받거나 신용카드를 독자적으로 신청하기 어려웠다. - 미국 인구조사는 1790년부터 이어졌지만 LGBTQ 개인을 공식적으로 인정한 것은 2021년에 이르러서였다. - 이처럼 과거 데이터에 특정 집단이 기록되지 않았다고 해서 그들이 존재하지 않았던 것은 아니다. - 오래되고 규모가 큰 데이터셋이라도 대표성이 부족하면, 이를 학습한 모델은 현실의 일부 사람들에게 불리한 결정을 내릴 수 있다. ## 모델보다 입력 데이터가 더 중요하다 - 샘슨은 AI 출력의 품질이 거의 전적으로 입력, 즉 데이터에 달려 있다고 설명한다. - 학습 데이터의 구성과 품질이 모델의 예측 방식과 결과를 사실상 결정한다. - 따라서 다음 질문이 모델 개발보다 먼저 다뤄져야 한다. - 무엇을 좋은 데이터와 나쁜 데이터로 판단할 것인가? - 어떤 사람이 데이터 수집과 포함 여부를 결정하는가? - 문제를 해결하는 데 데이터가 얼마나 필요한가? - 데이터가 대상 사용자를 공정하게 대표하는가? - 데이터가 부족하거나 편향된 상태에서 더 정교한 모델을 사용해도 근본적인 문제는 해결되지 않는다. ## ‘최소 실행 가능 데이터’의 기준 - 먼저 해결하려는 문제가 실제로 무엇인지 명확히 정의해야 한다. - AI나 ML을 적용할 수 있다는 이유만으로 반드시 사용해야 하는 것은 아니다. - 다음 조건을 충족하는지 검토해야 한다. - 해당 문제에 AI·ML이 적합하고 바람직한가? - 수집하려는 데이터가 공정하고 품질이 높은가? - 최종 사용자 집단을 충분히 대표하는가? - 더 많은 데이터를 모으는 과정에서 개인정보 침해나 차별 등 인간적 위험이 커지지 않는가? - 문제 해결에 필요한 최소 범위를 넘어 과도한 데이터를 수집하고 있지는 않은가? - 핵심은 가장 큰 데이터셋이나 가장 복잡한 모델이 아니라, 목적에 맞는 충분하고 공정한 데이터다. ## 데이터 작업을 제품 개발의 중심에 두기 - AI 업계에서는 모델 설계와 기능 구현이 주목받지만, 데이터 정제·라벨링·검증 같은 작업은 상대적으로 간과되기 쉽다. - 그러나 데이터의 출처, 수집 방식, 라벨 기준, 누락된 집단을 점검하지 않으면 모델 개발 전체가 잘못된 방향으로 진행될 수 있다. - 샘슨은 데이터와 알고리즘의 사회적 영향을 이해하기 위해 다음 자료를 추천한다. - 캐시 오닐, 『대량살상 수학무기』 - 메리 L. 그레이·시드하르트 수리, 『고스트 워크』 - “Everyone wants to do the model work, not the data work” 제품을 만들 때는 “AI를 사용할 수 있는가?”보다 “누구를 위해 어떤 문제를 해결하며, 그에 필요한 데이터가 공정하고 충분한가?”를 먼저 물어야 한다. 필요한 범위의 대표성 높은 데이터를 정의하고, 배제된 사용자와 잠재적 피해를 지속적으로 검토하는 것이 책임 있는 AI 개발의 출발점이다.
원문 읽기(새 탭에서 열림)