마이크로소프트, 디지털 비서 구축 개발자를 위한 가이드라인 발표

Microsoft는 개발자가 "책임 있는" 디지털 비서를 구축하는 데 도움이 되는 일련의 지침 을 발표했습니다 . 기본 기술의 급속한 발전으로 대화형 인터페이스의 채택이 증가하고 있습니다. 그러나 윤리적 문제에 대한 고려는 느린 속도로 진행되고 있습니다.

마이크로소프트는 이 지침이 개발자들에게 그들의 제품이 항상 예측할 수 없는 방식으로 사용될 수 있음을 상기시키기 위한 것이라고 말했다. 윤리적인 디자인은 항상 기술 산업과 관련이 있지만 대화형 인터페이스의 경우 특히 중요합니다.

Microsoft는 피자 주문 봇의 예를 사용했습니다. 서비스는 사용자의 주의를 산만하게 하는 것을 최소화하면서 피자 주문을 용이하게 하도록 설계되어야 합니다. 사용자가 인종, 성별, 종교 또는 정치와 같은 "민감한 주제"에 대해 논의하려고 하는 경우 서비스는 인간 피자 서버와 거의 동일한 방식으로 참여하지 않아야 합니다. 그렇지 않으면 봇 알고리즘의 편향으로 인해 고객의 원치 않는 행동을 학습할 수 있습니다.

나머지 지침은 유사한 주제로 계속됩니다. 전반적으로 Microsoft는 개발자가 잠재적인 문제를 염두에 둔다면 봇이 사회에 도움이 될 수 있다고 강조합니다. 조직은 봇 사용에 대해 사전에 밝혀야 합니다. 모든 AI 기반 서비스는 편견이 없어야 하고 문화적 표준을 존중해야 합니다.

대화형 AI의 릴리 쳉(Lili Cheng ) 마이크로소프트 기업 부사장은 “일반적으로 이 가이드라인은 디자인 프로세스 초기부터 책임감 있고 신뢰할 수 있는 대화형 AI의 개발을 강조한다”고 말했다 . "그들은 회사와 조직이 중지하고 봇이 어떻게 사용되는지 생각하고 남용을 방지하는 데 필요한 조치를 취하도록 권장합니다. 결국 지침은 신뢰에 관한 것입니다. 왜냐하면 사람들이 기술을 신뢰하지 않는다면, 그들은 그것을 사용하지 않을 것입니다."

Microsoft Research 웹 사이트 에서 전체 지침 목록을 찾을 수 있습니다 . 엄격한 규칙은 아니지만 봇을 개발할 때 고려해야 할 기본 윤리 기준을 요약합니다. 마이크로소프트는 디지털 비서를 만드는 개발자를 위한 퀵 스타트 툴킷 을 포함해 새로운 AI 기술 세트와 함께 이번 주 가이드라인을 발표했다 .

Tags: #AI #Azure #봇 #마이크로소프트 리서치