Microsoft veröffentlicht Richtlinien für Entwickler, die digitale Assistenten erstellen

Microsoft hat eine Reihe von Richtlinien veröffentlicht , die Entwicklern helfen sollen, „verantwortungsvolle“ digitale Assistenten zu entwickeln. Die Akzeptanz von Konversationsschnittstellen nimmt angesichts der schnellen Verbesserungen der zugrunde liegenden Technologien zu. Die Berücksichtigung ethischer Bedenken geht jedoch langsamer voran.

Laut Microsoft sollen die Richtlinien Entwickler daran erinnern, dass ihre Produkte auf eine Weise verwendet werden können, die sie nicht immer vorhersehen können. Obwohl ethisches Design für die Technologiebranche schon immer relevant war, ist es bei Conversational Interfaces besonders wichtig.

Microsoft hat das Beispiel eines Pizza-Bestell-Bots verwendet. Der Service sollte so gestaltet sein, dass er das Bestellen von Pizza erleichtert und möglichst wenig anfällig für Ablenkungen durch den Benutzer ist. Wenn der Nutzer versucht, über „sensible Themen“ wie Rasse, Geschlecht, Religion oder Politik zu diskutieren, sollte der Dienst auf eine ähnliche Art und Weise verzichten, wie es ein menschlicher Pizzabote tun würde. Andernfalls könnten Verzerrungen in den Algorithmen des Bots dazu führen, dass er unerwünschte Verhaltensweisen des Kunden erlernt.

Der Rest der Leitlinien wird mit ähnlichen Themen fortgesetzt. Insgesamt betont Microsoft, dass Bots gut für die Gesellschaft sein können, wenn Entwickler sich der potenziellen Probleme bewusst bleiben. Unternehmen müssen über den Einsatz von Bots im Voraus sein. Alle KI-gestützten Dienste müssen frei von Vorurteilen bleiben und kulturelle Standards respektieren.

„Im Allgemeinen betonen die Richtlinien die Entwicklung von Conversational AI, die von Beginn des Designprozesses an verantwortungsbewusst und vertrauenswürdig ist“, sagte Lili Cheng , Microsoft Corporate Vice President of Conversational AI. „Sie ermutigen Unternehmen und Organisationen, innezuhalten und darüber nachzudenken, wie ihr Bot verwendet wird, und die notwendigen Schritte zu unternehmen, um Missbrauch zu verhindern. Letztendlich geht es bei den Richtlinien um Vertrauen, denn wenn die Leute der Technologie nicht vertrauen, sie werden es nicht benutzen."

Die vollständige Liste der Richtlinien finden Sie auf der Website von Microsoft Research . Obwohl es sich nicht um harte Regeln handelt, fassen sie die grundlegenden ethischen Standards zusammen, die bei der Entwicklung von Bots zu berücksichtigen sind. Microsoft hat die Richtlinien diese Woche zusammen mit einer Reihe neuer KI-Technologien veröffentlicht, darunter ein Schnellstart-Toolkit für Entwickler, die digitale Assistenten erstellen.