Una IA basada en GPT-2 ofrece ayuda a adolescentes LGTBQ en crisis
La inteligencia artificial (IA) entra en
juego dentro del proyecto Trevor, que tiene como objetivo una conversación que
pueda reducir el gran número de suicidios, en este caso de los jóvenes LGTBQ.
El Proyecto Trevor cree comprender este
equilibrio y destaca lo que la máquina, no hace. El director de IA e Ingeniería
de la organización, Dan Fichter, explica: "No nos propusimos ni nos
proponemos diseñar un sistema de inteligencia artificial que sustituya a los
orientadores, o que interactúe directamente con una persona que podría estar en
crisis".
Quiere decir, que es fundamental recalcar
que no se busca reemplazar a los orientadores si no que ayudarlos, ya que no se
debe pasar por el alto lo esencial de la comunicación humana, lo importante del
proyecto es determinar qué individuo cuenta con alta probabilidad de intentos
suicidas. En unas investigaciones del año 2019 con jóvenes LGTBQ, se evidenció
un 40% de menos probabilidades de los registros o llamados de suicidio.
Después de probar varias opciones, el
Proyecto Trevor se decidió por el algoritmo GPT-2 de OpenAI. Sin embargo, el sistema empezó a usar insultos para
describir la comunidad queer y las personas discapacitadas.
El Proyecto Trevor es consciente de esto y
por ese motivo diseñó algunas formas de limitar los posibles problemas. Si bien
Lee Luda estaba programado a conversar con los usuarios sobre cualquier tema,
Riley tiene un enfoque muy limitado.
Comentarios
Publicar un comentario