OpenAI propone su propio ChatGPT para que sirva de moderador en publicaciones , contenido y comentarios en redes sociales.
Lo de OpenAI se dio a conocer por medio de un comunicado de Sam Altman, dirigente de OpenAI, en donde básicamente dice lo que la tecnología puede hacer por nosotros.
También te puede interesar: El que tu ex vea tus estados de WhatsApp tiene un significado
Hoy en día puede haber de todo en cuanto a contenido en redes ya que muchos ahora son creadores. Así como hay buen material también hay insultos, cosas indebidas, spam o fake news.
Para que hay una especie de límites y tener un ambiente saludable, las plataformas tienen a un ejército de moderadores humanos para filtrar lo que no debería llegar a la pantalla de los usuarios.
OpenAI por eso ahora sugiere el uso de Inteligencia Artificial (AI) para grandes modelos de lenguaje (LLMs) que la gente se libere de un proceso lento y complicado, que de acuerdo a la organización, puede generar estrés.
Esa misma empresa a través del comunicado firmado por Lilian Weng, Vik Godel y Andrea Vallone, explica que cualquier persona con acceso a su API puede crear un sistema de moderación de contenidos asistidos por Inteligencia Artificial.
El comunicado dice:
“Nuestros modelos de lenguaje grande como GPT-4 pueden entender y generar lenguaje natural, haciéndolos aplicables a la moderación de contenido. Los modelos pueden hacer juicios de moderación basados en las directrices de política que se les proporcionan. Con este sistema, el proceso de desarrollo y personalización de políticas de contenido se reduce de meses a horas”.
Ese proceso constaría de tres puntos:
Una pauta de políticas que permita a los humanos crear datos que funcionen como ejemplos y puedan etiquetarse con base en la política.
La IA lee la política y asigna etiquetas a ese conjunto de datos sin necesidad de ver las respuestas.
La IA muestra el razonamiento detrás d elas etiquetas para así resolver diferencias de criterio para entrenarla.
Sí, La Inteligencia Artificial estaría presente pero siempre con el apoyo del humano, mismo que es fundamental para esta propuesta.
