AI는 신뢰로부터 시작한다

인공지능 개발이 가속화되면서, 헬스케어부터 교육, 환경, 농업 등 AI는 인간의 노동이 필요한 모든 분야에서 놀라운 진전을 이어왔다. AI와 인간의 독창성을 결합해, 우리는 개인의 잠재력을 극대화하고 놀라운 업적을 성취할 수 있게 됐다.일례로 전 세계에 있는 마이크로소프트 연구진은 인류의 가장 치명적인 질병 가운데 하나인 암을 해결하고자 시험관과 의료 장비가 아닌, AI와 머신 러닝을 이용하고 있다.

우리는 머신 러닝과 자연어 처리 기술을 활용해, 세계적인 암 연구자들이 연구 데이터를 분석해 환자들이 필요로 하는 효과적인 맞춤형 암 치료법을 찾아낼 수 있도록 돕고 있다.  또한 머신 러닝과 컴퓨터 비전을 결합해 방사선 전문의들이 환자의 종양 정확히 어떻게 진행되고 있는지, 더 중요하게는 이를어떻게 치료하는지에 대한 이해를 돕는 것 또한 계획중에 있다.

AI, 신뢰와 윤리에 대한 의문 제기

AI가 사회의 가장 어려운 과제들을 해결할 수 있는 잠재력을 갖추고 있는 건 분명하다. 하지만 그 잠재력은 대규모의 데이터를 수집, 합산하고 공유해야 극대화된다.

그리고 그 과정에 보안, 프라이버시, 투명성 등의 윤리적 문제가 제기된다. 어찌 보면, AI는 우리가 기술을 사용하는 데 있어 신뢰가 얼마나 큰 역할을 하는지 되짚어볼 수 있는 계기가 되었다.

더불어 AI의 영향력이 늘어나면서, 사회적인 차원에서는 AI가 모든 이들을 공평하게 대하는지, 또는 AI가 보편화될 뿐 아니라 계속 발전하고 있는 상황에서 사람들 또는 조직들에게 맡길 수 있는지에 대한 의문이 들 수도 있다.

AI의 발전과 확산이 가속화되면서 개인과 기업 그리고 정부에서 숙고하고, 분석하고 풀어야할 중요한 과제들 중 일부다.

우리는 AI의 잠재력이 최대한 발휘하기 위해선, 신뢰를 바탕으로 한 기반이 다져져야 한다고 믿는다. 이용자들은 AI 기반 솔루션들의 보안, 프라이버시, 그리고 안정성이 확보되지 않는 한 사용할 이유가 없다. AI의 장점을 완벽하게 누리기 위해선, 우리는 이러한 과제에 대한 해답을 찾고, 이용자들이 신뢰할 수 있는 시스템을 개발해야 한다.

신뢰로 만들어지는 AI

궁극적으로 AI가 신뢰를 얻기 위해선, AI가 투명하고, 안전하고, 포괄적일 뿐 아니라, 가장 높은 수준의 개인정보 보호 능력을 갖춰야 한다. 마이크로소프트는 모든 AI 기술이 갖춰야 할 6 가지 원칙을 세웠다.

1. 프라이버시와 보안: 여느 클라우드 기술과 마찬가지로, AI 시스템 역시 데이터의 수집, 사용, 그리고 저장에 관련한 개인정보 보호법을 준수하고, 개인정보가 개인정보 보호 기준에 따라 사용되고 보호받을 수 있도록 해야 한다.
2. 투명성: AI가 미치는 영향력이 늘어나는 만큼, AI가 어떻게 작동하는지에 대한 정보를 이용자들에게 제공해야 한다. AI가 편향된 또는 오류가 있는 의도치 않은 결과물을 내놨을 때, 보다 쉽게 식별할 수 있도록 해야 한다.
3. 공정성: AI가 예를 들어 환자를 위한 치료법, 또는 인력 고용에 관한 의사 결정을 할 때, 비슷한 증상 또는 자격을 가진 모든 이들에게 같은 결과를 제공해야 한다. 공정성을 보장하기 위해, AI 시스템에 편견 또는 성향이 어떤 영향을 주는 지 파악해야 한다.
4. 신뢰성: AI는 뚜렷한 기준에 따라 예기치 못한 상황에서도 문제없이 대응하고, 의도치 않은 방향으로 발달하기 않도록 엄밀한 시험 과정을 거쳐야 한다. AI가 언제 어떻게 사용되어야 하는지를 판단하는 사람들의 역할이 중요하다.
5. 포괄성: AI는 인간의 광범위한 요구와 경험에 충족하는 결과물을 내놓기 위해, 의도치 않게 특정 제품이나 환경에 대한 분석을 제외하는 일이 없도록 해야한다. 
6. 책무성: AI 개발자나 서비스 제공자들은 자신들의 AI 시스템에 대한 책임을 가져야 한다. AI의 개발 단계에서부터 시스템이 운영되는 있는 동안까지도 언제나 지켜져야 한다.

마이크로소프트의 AI 제품과 서비스는 이 6가지 원칙에 따라 만들어지고 있고, 내부적으로는 자문위원회를 구성해 이 원칙들이 지켜질 수 있도록 하고있다.

더 자세한 내용은 마이크로소프트 최고법무책임자 브래드 스미스 사장과 마이크로소프트 AI 리서치 그룹 해리 셤 부사장이 출간한 ‘더 퓨처 컴퓨티드’(The Future Computed)를 보면 알 수 있다. 이곳에서 무료로 받을 수 있다.

이 밖에도 AI를 올바르게 사용하고, 개인과 사회에 치는 영향력을 논의하기 위해 파트너쉽 온 AI(Partnership on AI)를 공동 창립했다. 이러한 계획들은 우리가 추구하는 대응력과 책임감을 갖춘 AI 리더쉽을 이루기 위한 것이며, 지구상의 모든 이들이 더 많은 것을 이룰 수 있도록 돕자 하는 회사의 미션과 일맥상통한다. 

AI가 발전할수록 현존하고 있는 수많은 도전과제들을 해결해줄 수 있을 것이라 믿는다. 그리고 우리가 만드는 AI 툴과 서비스들은 인간의 능력을 향상시킬 수 있을 것이다. AI의 미래는 밝고 더 나은 미래를 만드는 데 중요한 역할을 할 것이다. 하지만 이러한 미래를 보장하기 위해선, 정부과 기업, 교육기관과 시민단체들이 함께해 신뢰할 수 있는 AI를 만들어나는 것이 중요하다.