메인 컨텐츠로 가기

마이크로소프트 신뢰할 수 있는 AI: 신뢰로 시작되는 잠재력의 발현

AI가 발전함에 따라 우리는 전 세계 조직과 커뮤니티에 AI가 긍정적인 영향력을 발휘할 수 있도록 해야 할 책임이 있습니다. 그렇기 때문에 마이크로소프트는 고객이 신뢰할 수 있는 AI, 즉 보안, 안전, 프라이버시가 보장되는 AI를 사용하고 구축할 수 있도록 지원하는 데 주력하고 있습니다.

마이크로소프트는 신뢰할 수 있는 AI를 보장하기 위해 최선을 다하고 있으며 업계 최고의 지원 기술을 구축하고 있습니다. 고객과 개발자를 모든 계층에서 보호할 수 있도록 마이크로소프트의 약속과 역량이 함께 합니다.

이러한 약속을 바탕으로 오늘 AI 시스템의 보안, 안전 및 프라이버시를 강화하는 새로운 제품 기능을 발표합니다.

보안. 보안은 마이크로소프트의 최우선 과제이며, 확장된 시큐어 퓨쳐 이니셔티브(Secure Future Initiative, SFI)는 고객의 보안을 강화하기 위한 전사적인 노력과 책임을 분명히 보여줍니다. 이번 주에는 문화, 거버넌스, 기술 및 운영 전반에 걸친 업데이트를 강조하는 첫 번째 SFI 경과 보고서를 발표했습니다. 이는 무엇보다도 보안을 최우선시하겠다는 약속을 이행하는 것으로, 보안 설계(Secure by design), 보안 기본 설정(Secure by default), 보안 운영(Secure operations)이라는 세 가지 원칙에 따라 이루어집니다. 마이크로소프트의 AI 서비스에는 자사 제품인 마이크로소프트 디펜더 및 퍼뷰(Microsoft Defender and Purview) 외에도 프롬프트 인젝션(Prompt Injection) 및 저작권 위반을 방지하는 기본 제공 기능과 같은 보안 제어 기능이 포함되어 있습니다. 이러한 기능을 기반으로 오늘 두 가지 새로운 기능을 발표합니다:

  • 선제적 위험 평가를 지원하는 애저 AI 스튜디오(Azure AI Studio)의 평가 기능
  • M365 코파일럿(Copilot for Microsoft 365)의 웹 쿼리 투명성 제공 기능. 이는 관리자와 사용자가 웹 검색이 코파일럿 응답을 향상시키는 방법을 더 잘 이해할 수 있도록 지원. 곧 출시 예정.

마이크로소프트의 보안 기능은 이미 고객들이 사용하고 있습니다. 105년의 역사와 엔진 제조 및 청정 에너지 기술 개발로 유명한 커민스(Cummins)는 데이터의 분류, 태그 지정 및 레이블 지정 작업을 자동화하여 데이터 보안과 거버넌스를 강화하기 위해 퍼뷰를 선택했습니다. 소프트웨어 엔지니어링 및 비즈니스 컨설팅 회사인 이팸 시스템즈(EPAM Systems)는 마이크로소프트에서 제공하는 데이터 보호 기능을 이용함으로써 300명의 사용자를 위한 마이크로소프트 365 코파일럿(Copilot for Microsoft 365)을 배포했습니다. IT 수석 디렉터인 J.T. 소다노는 “다른 대규모 언어 모델(Large Language Model)에 비해 M365 코파일럿에 훨씬 더 확신을 가질 수 있었는데, 이는 마이크로소프트 퍼뷰에서 구성한 것과 동일한 정보 및 데이터 보호 정책이 코파일럿에도 적용된다는 것을 알았기 때문”이라고 전했습니다.

안전. 보안과 프라이버시를 모두 포함하는 마이크로소프트의 광범위한 책임있는 AI(Responsible AI)는 2018년에 수립되었으며, 전사적으로 AI를 안전하게 구축하고 배포하는 방법을 지속적으로 유도하고 있습니다. 실제로 이는 유해한 콘텐츠, 편견, 오용 및 기타 의도하지 않은 위험을 방지하기 위해 시스템을 적절하게 구축하고, 테스트 및 모니터링하는 것을 의미합니다.

수년 동안 마이크로소프트는 이러한 원칙을 지키고 안전하게 AI를 구축하고 배포하는 데 필요한 거버넌스 구조, 정책, 도구 및 프로세스를 구축하는 데 상당한 투자를 해왔습니다. 마이크로소프트는 책임 있는 AI를 준수하는 여정에서 얻은 교훈을 고객과 공유하기 위해 최선을 다하고 있으며, 자체 모범 사례와 학습을 활용해 마이크로소프트가 추구하는 높은 기준을 공유할 수 있는 AI 애플리케이션을 구축할 수 있는 기능과 도구를 제공합니다.

오늘은 고객이 AI의 이점을 추구하면서 위험을 완화할 수 있도록 지원하는 새로운 기능을 공유하고자 합니다:

  • 수정(Correction): 사용자가 환각 문제를 발견하기 전에 실시간으로 수정하는 데 도움이 되는 마이크로소프트 애저 AI 콘텐츠 안전의 접지 감지(Groundedness detection) 기능입니다.
  • 임베디드 콘텐츠 세이프티(Embedded Content Safety): 고객이 디바이스에 애저 AI 콘텐츠 세이프티(Azure AI Content Safety)를 내장할 수 있습니다. 이 기능은 클라우드 연결이 간헐적이거나 사용할 수 없는 온디바이스 시나리오에 중요합니다.
  • 새로운 평가(New evaluations): 고객이 출력의 품질과 관련성 및 AI 애플리케이션이 보호된 자료를 출력하는 빈도를 평가하는 데 도움이 되는 애저 AI 스튜디오의 기능입니다.
  • 코드에 대한 보호된 자료 감지(Protected Material Dectection for Code): 기존 콘텐츠 및 코드를 감지하는 데 도움이 되는 기능으로서 이제 애저 AI 콘텐츠 세이프티에서 미리 보기로 제공됩니다. 이 기능은 개발자가 깃허브(GitHub) 리포지토리에서 공개 소스 코드를 탐색하여 공동 작업과 투명성을 촉진하는 동시에 더 많은 정보에 기반한 코딩 결정을 내릴 수 있도록 도와줍니다.

여러 산업 분야의 고객이 마이크로소프트솔루션을 사용하여 더욱 안전하고 신뢰할 수 있는 AI 애플리케이션을 구축하는 방법은 경이롭습니다. 예를 들어, 3D 게임 플랫폼인 유니티(Unity)는 마이크로소프트 애저 오픈AI 서비스(Azure OpenAI Service)를 사용하여 게임 개발을 더 쉽게 해주는 AI 어시스턴트인 뮤즈 챗(Muse Chat)을 구축했습니다. 또한 책임 있는 소프트웨어 사용을 보장하기 위해 애저 AI 콘텐츠 세이프티의 필터링 모델을 사용합니다. 약 900개의 브랜드 파트너를 보유한 영국 기반 패션 소매업체인 아소스(ASOS)는 고객이 새로운 룩을 찾는 데 도움이 되는 애저 AI 앱을 통해 최고 품질의 상호 작용을 지원하기 위해 애저 AI 콘텐츠 세이프티에서 동일한 기본 제공 콘텐츠 필터를 사용했습니다.

교육 분야에서도 그 효과를 보고 있습니다. 뉴욕시 공립학교(New York City Public Schools)는 마이크로소프트와 협력하여 안전하고 교육 환경에 적합한 채팅 시스템을 개발했으며, 현재 학교에서 시범 운영 중입니다. 남호주 교육청(The South Australia Department for Education)도 마찬가지로 학생과 교사가 안전하게 사용할 수 있도록 동일한 인프라에 의존하여 EdChat을 통해 교실에 생성 AI를 도입했습니다

프라이버시. 데이터는 AI의 기반이며, 마이크로소프트의 최우선 과제는 고객 데이터를 보호하고 법적규정을 준수하도록 돕는 것입니다. 이를 위해 마이크로소프트는 사용자가 데이터를 직접 관리하고, 투명성을 유지하며, 법적 및 규제적인 보호를 받을 수 있도록 프라이버시 원칙(Privacy Principles)을 지켜왔습니다. 이를 바탕으로 더욱 강화된 기준을 발표합니다.

  • 기밀 추론(Confidential inferencing): 고객이 검증 가능한 엔드투엔드 프라이버시를 지원하는 생성 AI 애플리케이션을 개발할 수 있도록 애저 오픈AI 서비스 위스퍼(Whisper)모델에서 기밀 추론 기능을 미리 보기로 제공합니다. 기밀 추론은 훈련된 AI 모델이 새로운 데이터를 바탕으로 예측하거나 결정을 내릴 때, 민감한 고객 데이터를 안전하게 비공개로 유지합니다. 이는 의료, 금융 서비스, 소매업, 제조업, 에너지와 같이 규제가 엄격한 산업에서 특히 중요합니다.
  • 엔비디아 H100 텐서 코어 GPUs(NVIDIA H100 Tensor Core GPUs)가 탑재된 애저 기밀 VM: 고객이 GPU에서 직접 데이터를 보호할 수 있는 애저 기밀 VM을 제공합니다. 이 기능은 안전한 환경에서 데이터를 암호화하고 보호하며, 허가 없이 정보나 시스템에 액세스할 수 없도록 보장하는 기밀 컴퓨팅 솔루션을 기반으로 합니다.
  • EU 및 미국에서 사용할 수 있는 애저 오픈AI 데이터 존(Azure OpenAI Data Zones)은 곧 출시될 예정이며, 기존의 애저 오픈AI 서비스에서 제공하는 데이터 레지던시를 기반으로, 생성 AI 애플리케이션의 데이터 처리 및 저장을 더 쉽게 관리할 수 있습니다. 이 기능은 고객에게 EU 또는 미국 내에서 데이터 처리와 저장을 제어할 수 있는 유연성을 제공하면서도, 지역 내 모든 애저 리전에 걸쳐 생성 AI 애플리케이션을 확장할 수 있는 유연성을 제공합니다.

기밀 컴퓨팅에 대한 고객의 관심이 증가하고 있으며, 애플리케이션 보안 제공업체인 F5는 엔비디아 H100 텐서 코어 GPU가 탑재된 애저 기밀 VM을 사용해, 모델에서 분석하는 데이터의 기밀성을 보장하면서 고급 AI 기반 보안 솔루션을 구축하고 있습니다. 또한, 다국적 금융 기업인 캐나다 왕립은행(Royal Bank of Canada)은 고객의 개인정보를 보호하면서 암호화된 데이터를 분석하기 위해 애저 기밀 컴퓨팅을 자체 플랫폼에 통합했습니다. 엔비디아 H100 텐서 코어 GPU가 탑재된 애저 기밀 VM을 통해 캐나다 왕립은행은 더욱 효율적인 업무 처리와 더 강력한 AI 모델 개발이 가능해졌습니다.

신뢰할 수 있는 AI로 더 많은 성취

우리 모두는 신뢰할 수 있는 AI를 필요로 하고 기대합니다. 직원 경험을 풍부하게 하고 비즈니스 프로세스를 재구성하는 것부터 고객 참여를 혁신하고 일상을 재창조하는 것까지, 사람들이 신뢰할 수 있는 방식으로 AI를 사용할 수 있게 되면 어떤 일이 가능한지 경험했습니다. 보안, 안전, 개인정보 보호를 개선하는 새로운 기능을 통해 고객이 신뢰할 수 있는 AI 솔루션을 사용하고 구축하여 지구상의 모든 개인과 조직이 더 많은 것을 성취할 수 있도록 지속적으로 지원하고 있습니다. 궁극적으로 신뢰할 수 있는 AI는 마이크로소프트에서 하는 모든 일을 포괄하며, 우리가 하는 모든 일에서 기회를 확대하고, 신뢰를 얻고, 기본권을 보호하고, 지속 가능성을 발전시키기 위해 노력하는 우리의 미션에 필수적인 요소입니다.

더 많은 이야기