マイクロソフトは、デジタルアシスタントを構築する開発者向けのガイドラインを公開しています

Microsoftは、開発者が「責任ある」デジタルアシスタントを構築するのに役立つ一連のガイドラインをリリースしました。基盤となるテクノロジーが急速に改善される中、会話型インターフェイスの採用が増えています。しかし、倫理的な懸念への配慮はゆっくりとしたペースで進んでいます。

Microsoftによると、このガイドラインは、開発者に、自社の製品が常に予測できるとは限らない方法で使用される可能性があることを思い出させることを目的としています。倫理的なデザインは常にテクノロジー業界に関連していますが、会話型インターフェースの場合は特に重要です。

Microsoftは、ピザ注文ボットの例を使用しました。このサービスは、ユーザーの気を散らす可能性を最小限に抑えながら、ピザの注文を容易にするように設計する必要があります。ユーザーが人種、性別、宗教、政治などの「デリケートなトピック」について話し合う場合、サービスは人間のピザサーバーとほとんど同じ方法で関与することを控えるべきです。そうしないと、ボットのアルゴリズムに偏りがあると、顧客から望ましくない動作を学習する可能性があります。

残りのガイドラインは、同様のテーマに沿って継続されます。全体として、Microsoftは、開発者が潜在的な問題に注意を払っていれば、ボットは社会に役立つ可能性があることを強調しています。組織は、ボットの使用について率直に対応する必要があります。AIを活用したサービスは、偏見がなく、文化的基準を尊重し続ける必要があります。

「一般に、ガイドラインは非常に設計プロセスの初期段階から責任と信頼できる会話AIの発展を重視し、」言ったリリチェン、会話AIのマイクロソフトコーポレートバイスプレジデントで。「彼らは企業や組織に、ボットの使用方法を止めて考え、悪用を防ぐために必要な措置を講じることを奨励しています。結局のところ、ガイドラインはすべて信頼に関するものです。なぜなら、人々がテクノロジーを信頼しない場合、彼らはそれを使うつもりはない」と語った。

ガイドラインの完全なリストは、MicrosoftResearchのWebサイトにあります。これらは厳格なルールではありませんが、ボットを開発する際に考慮すべき基本的な倫理基準をカプセル化しています。マイクロソフトは今週、デジタルアシスタントを作成する開発者向けのクイックスタートツールキットを含む、新しいAIテクノロジーのセットとともにガイドラインを公開しました。