Tutorial de Cohere: Cómo usar Cohere para la moderación de contenido

El contenido como las publicaciones y los comentarios de los usuarios es increíble, pero a veces puede ser tóxico, racista y lleno de odio. Definitivamente no queremos eso en nuestra aplicación. Para resolver este problema podemos usar la herramienta basada en IA Cohere. Cohere es una API de modelo de lenguaje de última generación que puede ayudarnos a moderar el contenido de nuestra aplicación. Básicamente, podemos enviar un texto de un usuario a Cohere y obtendremos una clasificación de este texto. La clasificación puede ser benigna o tóxica, odiosa, racista, etc. En este tutorial, le mostraremos cómo usar Cohere para moderar el contenido de su aplicación, de modo que pueda eliminar el contenido tóxico de su aplicación antes de que se publique.

Empecemos

Primero nos dirigiremos a Cohere y crearemos una cuenta. Una vez que hayamos creado una cuenta, obtendremos una clave API. Necesitaremos esta clave API más adelante en nuestra aplicación. Puede hacerlo aquí: https://cohere.ai/

A continuación, podemos ver el Cohere Playground. Es excelente para probar sus ideas y comenzar con un proyecto. Tiene una interfaz de usuario limpia y puede exportar su código en varios idiomas. Para este tutorial agregaremos un par de ejemplos en Cohere Classify Playground como este:

Guía de difusión estable: cómo utilizar nuestra API de difusión estable

Puedes ver que cada ejemplo tiene un texto y una etiqueta. La etiqueta puede ser tóxica o benigna. Con estos ejemplos, el modelo puede determinar mejor si un nuevo texto es tóxico o no.

Ahora ya puede probar la clasificación debajo del campo de ejemplos con algunos textos de entrada. Puede ver que el modelo ya es bastante bueno para clasificar el texto.

¡Eso ya es genial! Pero, ¿cómo hacemos que esto funcione en nuestra aplicación? Simplemente podemos presionar el botón «Exportar código» y elegir el idioma que queremos usar. Puede elegir entre Python, Nodejs, Go y, además, Curl y Cohere CLI. Por ahora usaremos Pyhton.

Tutorial de difusión estable: variaciones de imagen de difusión estable utilizando difusores lambda

Después de exportar, el código se ve así:

Asegúrese de tener instalado el paquete del cliente Cohere. Si no, puede hacer esto con la ayuda del administrador de paquetes de pythons PIP:

Puede cambiar dinámicamente el inputs campo al contenido de sus usuarios. Tenga en cuenta que no tiene que proporcionar dos o más entradas. También puede ejecutarlo con solo un texto de entrada.

Puede extraer la predicción y la confianza de la respuesta de esta manera:

Cómo usar Cohere: Cohere Playground

En resumen, en este tutorial ha aprendido a usar Cohere para moderar contenido en su aplicación. También se encontró con el cliente Cohere Python y cómo puede usarlo para enviar entradas de texto a Cohere y obtener una clasificación de este texto. Puede usar esta clasificación para decidir si el contenido está permitido en su aplicación o no.

¡Únase a nuestros Hackathons de IA para probar su conocimiento y construir con la ayuda de nuestros mentores herramientas basadas en IA para cambiar el mundo! Consulte los próximos en el enlace https://lablab.ai/event

¡Gracias! Si disfrutó de este tutorial, puede encontrar más y continuar leyendo en nuestra página de tutoriales: Fabian Stehle, pasante de ciencia de datos en New Native