Microsoft publica pautas para desarrolladores que crean asistentes digitales

Microsoft ha publicado un conjunto de pautas para ayudar a los desarrolladores a crear asistentes digitales "responsables". La adopción de interfaces conversacionales está creciendo en medio de rápidas mejoras en las tecnologías subyacentes. Sin embargo, la consideración de las preocupaciones éticas avanza a un ritmo más lento.

Microsoft dijo que las pautas están destinadas a recordar a los desarrolladores que sus productos pueden usarse de formas que no siempre pueden prever. Aunque el diseño ético siempre ha sido relevante para la industria de la tecnología, es particularmente importante en el caso de las interfaces conversacionales.

Microsoft usó el ejemplo de un robot de pedidos de pizzas. El servicio debe estar diseñado para facilitar el pedido de pizza, con una mínima susceptibilidad a las distracciones del usuario. Si el usuario intenta discutir "temas delicados", como raza, género, religión o política, el servicio debe abstenerse de participar de la misma manera que lo haría un servidor de pizzas humano. De lo contrario, cualquier sesgo en los algoritmos del bot podría hacer que el cliente aprenda comportamientos no deseados.

El resto de las pautas continúan con temas similares. En general, Microsoft enfatiza que los bots pueden ser buenos para la sociedad, si los desarrolladores son conscientes de los posibles problemas. Las organizaciones deben ser sinceras sobre el uso de bots. Cualquier servicio impulsado por IA debe permanecer libre de prejuicios y respetar los estándares culturales.

"En general, las pautas enfatizan el desarrollo de la IA conversacional que es responsable y confiable desde el principio del proceso de diseño", dijo Lili Cheng , vicepresidenta corporativa de inteligencia artificial conversacional de Microsoft. "Alientan a las empresas y organizaciones a detenerse y pensar en cómo se utilizará su bot y tomar las medidas necesarias para prevenir el abuso. Al final del día, las pautas tienen que ver con la confianza, porque si las personas no confían en la tecnología, no lo van a usar ".

Puede encontrar la lista completa de pautas en el sitio web de Microsoft Research . Aunque no son reglas estrictas, encapsulan los estándares éticos básicos a considerar al desarrollar bots. Microsoft publicó las pautas esta semana junto con un nuevo conjunto de tecnologías de inteligencia artificial, incluido un conjunto de herramientas de inicio rápido para desarrolladores que crean asistentes digitales.