챗 지피티 등 생성형 인공지능을 의료에 접목하기 위한 시도가 이어지고 있지만 이들 또한 편견을 가지고 있다는 점에서 주의가 필요하다는 지적이 나왔다.

환자의 소득과 재산 규모에 따라 같은 질환이라도 다른 검사와 치료법을 제시하는 편견과 편향을 보여줬기 때문이다.

현지시각으로 9일 국제학술지 네이쳐 메디슨(Nature Medicine)에는 생성형 인공지능을 통한 의료 의사 결정의 한계에 대한 연구 결과가 공개됐다(10.1038/s41591-025-03626-6).

현재 생성형 인공지능이 고도화되면서 임상 현장에서도 이를 의료에 접목하기 위한 시도가 이어지고 있다.

단순한 퇴원요약서부터 환자 분류 등에 활용하는 것을 넘어 의료진의 임상의사결정을 지원하기 위한 다양한 방법들이 나오고 있는 것.

하지만 이러한 생성형 인공지능이 환각이나 거짓 정보를 주는 것은 물론 편견이 있다는 지적이 나오면서 이에 대한 검증이 이뤄지고 있는 상태다.

마운트 시나이 의과대학 예알 클랑(Eyal Klang) 교수가 이끄는 연구진이 이에 대한 대규모 연구를 진행한 배경도 여기에 있다. 실제 생성형 인공지능이 편견을 가지고 있는지 확인하기 위해서다.

이에 따라 연구진은 응급실 입원 환자 1000명에 대한 170만건의 의료 행위를 대상으로 9개 생성형 인공지능에 의료정보를 넣어 이를 비교했다.

질환과 의료 정보는 동일하게 입력됐으며 다만 31개 사회 인구학적 요인을 별도로 입력해 이를 대조했다.

그 결과 흑인이나 저소득자 등급으로 분류된 환자의 경우 다른 환자에 비해 개흉술이나 개복술 등 더 침습적인 행위를 권고한 것으로 나타났다.

또한 노숙자 등으로 분류된 환자는 입력된 의료정보를 넘어 정신건강평가를 권고하는 비율이 다른 환자에 비해 7배나 높았다.

반면 고소득자 혹은 재산이 많은 호나자는 CT나 MRI 등 고급 영상 검사에 대한 권고가 많았다(P＜0.001).

특히 같은 의료정보를 입력해도 저소득층이나 중산층에게는 이러한 CT나 MRI를 권고하지 않고 추가 검사가 없다는 정보를 제시했다. 단순히 소득에 따라 다른 결과를 내놓은 셈이다.

예알 클랑 교수는 "아무리 다중 가설 수정을 적용해도 이러한 차이는 지속됐다"며 "결국 임상적 추론이나 지침이 아니라 소득 격차에 의해 편향이 나타났다는 의미"라고 지적했다.

이어 그는 "결국 생성형 인공지능을 의료에 접목하기 위해서는 공평한 권고를 위해 편향에 대한 완화 전략이 필요하다는 것을 의미한다"고 밝혔다.