Lo primero, ¿qué considera ChatGPT ofensivo?
Una de las tareas más complicadas en el ámbito del Procesamiento de Lenguaje Natural es el entendimiento de determinadas características cualitativas de un texto, una conversación, o una declaración. Mientras que, en los últimos años, han proliferado herramientas y técnicas para casos de uso habituales, como el análisis del sentimiento en comentarios en Redes Sociales, otros aspectos cualitativos son complicados de entender de forma automática. Parte de la complejidad es que, seguramente, podemos encontrar ejemplos en los que ni siquiera dos humanos nos pongamos de acuerdo en el carácter de un texto cuando queremos analizar su ironía, su nivel de concienciación, su estado de ánimo o cualquier otro aspecto cualitativo y subjetivo.
Partiendo de esta base, desde PiperLab hemos realizado un análisis para cualificar intervenciones de nuestros políticos en el Congreso de los Diputados en términos de lenguaje ofensivo utilizando para ello ChatGPT y las APIs de OpenAI para utilizar los modelos GPT de forma programática. Por tanto, el análisis que aquí os mostramos, esencialmente, refleja la “opinión” que ChatGPT tiene sobre estas intervenciones y que, por supuesto, no deben tomarse como algo fijo e inamovible: todos tenemos una opinión y, seguramente, la forma en la que ha sido entrenado ChatGPT puede inducir un cierto sesgo político algo que, por cierto, también será una consideración subjetiva de cada uno.
Desde PiperLab hemos realizado un análisis para cualificar intervenciones de nuestros políticos en el Congreso de los Diputados en términos de lenguaje ofensivo utilizando para ello ChatGPT y las APIs de OpenAI.
En primer lugar, hemos decidido preguntarle precisamente a ChatGPT qué considera lenguaje ofensivo en una declaración política:
Si te paso un texto de una declaración de un diputado en el Congreso, ¿qué considerarías como uso de lenguaje ofensivo?
El lenguaje ofensivo puede variar de una persona a otra, pero generalmente incluye ciertos tipos de discurso que son ampliamente reconocidos como inapropiados o irrespetuosos. Algunas consideraciones que podrían ayudar a identificar el uso de lenguaje ofensivo en el discurso de un diputado en el Congreso podrían incluir:
1. Lenguaje injurioso: Este tipo de lenguaje se refiere a palabras o frases que están diseñadas para insultar o denigrar a una persona o grupo de personas. Esto podría incluir ataques personales, insultos y epítetos peyorativos.
2. Lenguaje discriminatorio: Este tipo de lenguaje puede ser ofensivo si se dirige de manera negativa hacia un grupo específico de personas en función de características como su raza, género, religión, orientación sexual, origen étnico, discapacidad, etc.
3. Lenguaje obsceno o vulgar: Este tipo de lenguaje puede incluir el uso de palabrotas, blasfemias, o palabras sexualmente explícitas que pueden ser consideradas inapropiadas en un entorno formal como el Congreso.
4. Lenguaje difamatorio: Esto incluye declaraciones que son falsas y perjudican la reputación de otra persona. Aunque esto puede ser más un asunto legal que de etiqueta, sigue siendo considerado como un tipo de lenguaje ofensivo.
5. Discurso de odio: Este es un tipo de lenguaje que incita a la violencia o al odio contra un grupo de personas en base a características como la raza, la religión, el origen étnico, la orientación sexual, la discapacidad, etc.
6. Burla o sarcasmo malintencionado: Si bien el sarcasmo puede ser una forma legítima de expresión, si se usa para menospreciar, insultar o degradar a alguien, puede ser considerado ofensivo. En cualquier caso, el contexto es clave. Las mismas palabras pueden tener connotaciones muy diferentes dependiendo de su uso y del tono en el que se presenten. Por lo tanto, al evaluar el lenguaje de un discurso, es importante considerar tanto las palabras individuales como su contexto general.
Esta definición de qué considera ofensivo el algoritmo la ha construido en base a los textos con los que ha sido entrenado, una especie de consenso de esta información que, por supuesto, puede haber sido pre-filtrada previamente y puede dar lugar a sesgos. Seguramente, muchos de los que leéis este post pensaréis que alguno de los aspectos que señala, para vosotros no serían ofensivos o que, quizás, no ha incluido algún aspecto que consideráis relevante. De nuevo, lo que buscamos es mostrar lo potente que puede ser el uso de estas tecnologías para resolver preguntas que, con tecnologías previas, era muy difícil abordar.
Siguiendo la conversación con ChatGPT, podemos pasarle un ejemplo y que evalúe, en cada una de las dimensiones o aspectos que ha señalado anteriormente, si la intervención cae en alguna de estas tipologías de carácter ofensivo y que, globalmente, extraiga una conclusión sobre la declaración. Esto lo podemos realizar de esta forma:
Dime si consideras la siguiente declaración ofensiva y por qué en base a los factores listados: «Como siempre, señor Sánchez, usted no contesta a las preguntas y se va por las ramas Usted no nos ha contestado Ustedes patrocinan la inmigración ilegal con un sistema perverso de efecto llamada a través de las ayudas sociales, de complicidad del Gobierno con las ONG que colaboran con el tráfico de personas, de desprotección de nuestras fronteras, y de órdenes de expulsión que acaban amontonadas a miles en un cajón Ustedes provocan con su efecto llamada un drama humanitario en el Mediterráneo y en el Estrecho, haciendo que muchas personas mueran ahogadas, y traen problemas de convivencia y de seguridad a nuestros barrios»
Basándome en las pautas que he proporcionado antes, la declaración contiene algunos elementos que algunos pueden encontrar ofensivos o inapropiados. Analizándola más detalladamente:
1. b: El orador acusa al señor Sánchez de evadir las preguntas. Esta acusación no es injuriosa en sí misma, pero sí puede considerarse un ataque personal, especialmente si se realiza sin pruebas suficientes.
2. Lenguaje discriminatorio: El orador acusa al Gobierno de patrocinar la inmigración ilegal a través de una serie de políticas y acciones. Este tipo de lenguaje puede ser visto como un intento de estigmatizar a los inmigrantes y a las ONG que trabajan con ellos, lo cual podría ser interpretado como discriminación o prejuicio.
3. Lenguaje obsceno o vulgar: En esta declaración no se identifican obscenidades ni vulgaridades explícitas.
4. Lenguaje difamatorio: El orador acusa al Gobierno de colaborar con el tráfico de personas y de negligencia en la protección de las fronteras. Si estas afirmaciones son falsas y dañan la reputación de alguien, pueden considerarse difamatorias.
5. Discurso de odio: Aunque la declaración no incita explícitamente a la violencia o al odio, la forma en que se describe a los inmigrantes y a las ONG que trabajan con ellos podría interpretarse como un intento de demonizarlos o marginalizarlos.
6. Burla o sarcasmo malintencionado: No se identifica burla o sarcasmo en la declaración.
La declaración puede ser vista como ofensiva por la manera en que representa a los inmigrantes y a las ONG, atribuyéndoles problemas de convivencia y de seguridad en los barrios, lo que puede alimentar estereotipos negativos. Sin embargo, en un debate político, es habitual que se hagan acusaciones fuertes y se exprese disconformidad con las políticas del gobierno de turno, por lo que algunas personas podrían no encontrar estas palabras ofensivas en ese contexto.
Es impresionante la facilidad con la que se pueden realizar estos análisis utilizando esta tecnología y, en base a sus propias definiciones, la evaluación del texto parece muy consistente. Pongamos un segundo ejemplo:
Dime si consideras la siguiente declaración ofensiva y por qué en base a los factores listados:
Gracias, presidente Vicepresidenta primera, señorías, voy a hacer varias consideraciones en relación con la enmienda de totalidad Una primera, que yo creo que ya ha recordado la portavoz del PNV, es que hace más de cinco años esta Cámara aprobó la Ley 7/2017, que en una disposición adicional establecía la creación de una entidad única para resolver los litigios en el ámbito de los clientes financieros con carácter vinculante Por lo tanto, de entrada, llevamos más de cinco años de retraso Sí es verdad que en estos cinco años han pasado muchas cosas en el conjunto del Estado, en el mundo y en esta Cámara, pero, primera consideración, vamos con retraso Segunda consideración, hasta el señor Manso reconocía que hay un cierto consenso en separar las actividades de supervisión de las de conducta Tercera consideración, hay unos datos que en las comparecencias nos dejó encima de la mesa el magistrado que compareció Él ponía de manifiesto que hay decenas de miles de asuntos judicializados, que la mayoría no superaban los 2000 euros, pero que colapsaban muchos juzgados, y que el número de estos asuntos, en lugar de ir remitiendo, se va incrementando año a año Basándonos en estas tres consideraciones, si hoy votamos a favor de la enmienda de totalidad, tenemos que valorar si mejoramos o empeoramos la situación Es evidente que nosotros tenemos algunas discrepancias en cuanto al contenido de la norma que vamos a tramitar, y de eso se trata en estos momentos, de que los grupos parlamentarios podamos plantear nuestras enmiendas y que el Gobierno, consciente de la situación ―y como ya ha hecho este ministerio en otras leyes―, sepa encontrar los ámbitos de negociación y acuerdo para mejorar sustancialmente la norma, porque, de hecho, si no lo hacemos, vamos a continuar exactamente en la misma situación Y nosotros discrepamos de algunos de los argumentos que se han puesto encima de la mesa Cuando alguien habla de crear chiringuitos, incrementar la Administración pública y el gasto público, yo les diría: Hombre, nos deberíamos preocupar por otros aspectos mucho más relevantes en el ámbito de creación o incremento del gasto público Porque, al fin y al cabo, si ustedes hacen un análisis de coste-beneficio, ya verán que no es tanto el incremento del gasto público que se puede plantear con esta medida una vez realizadas ciertas correcciones, ya que es evidente que una parte de esta actividad va a suponer que los organismos supervisores que están resolviendo determinadas reclamaciones no lo van a tener que hacer y, por tanto, van a liberar una parte de sus recursos Es una obviedad que la Administración de Justicia va a tener mucha menos presión y, por tanto, va a tener que destinar muchos menos recursos a resolver todos estos conflictos que tienen un coste también muy elevado, y eso va a permitir que se preste un mejor servicio público de la Administración de Justicia, destinando estos recursos a otros asuntos Por tanto, nosotros vamos a votar en contra de la enmienda de totalidad, y ya le avanzo que vamos a presentar más de cuarenta enmiendas al proyecto de ley para que podamos negociarlas Muchísimas gracias
Esta declaración parece ser una contribución respetuosa y constructiva al debate en el Congreso. Analizándola más detenidamente con respecto a los factores de lenguaje ofensivo:
1. Lenguaje injurioso: No hay evidencia de ataques personales, insultos ni epítetos peyorativos en esta declaración. El orador señala discrepancias con otros puntos de vista, pero lo hace de manera respetuosa.
2. Lenguaje discriminatorio: No hay lenguaje que apunte a la discriminación o estigmatización de algún grupo específico de personas en esta declaración.
3. Lenguaje obsceno o vulgar: No se identifican obscenidades ni vulgaridades explícitas en esta declaración.
4. Lenguaje difamatorio: No hay ninguna acusación hecha en esta declaración que pueda ser considerada difamatoria.
5. Discurso de odio: No hay contenido que incite a la violencia o al odio contra un grupo de personas en esta declaración.
6. Burla o sarcasmo malintencionado: No se identifica burla ni sarcasmo malintencionado en esta declaración.
En resumen, esta declaración no parece contener lenguaje ofensivo según las categorías que he mencionado anteriormente. La declaración se centra en discutir asuntos políticos y legislativos con argumentos razonados y no recurre a ataques personales ni a la descalificación de otros interlocutores.
Este segundo ejemplo, que no lo califica como ofensivo, no encuentra ningún punto relevante en ninguna de las dimensiones que ha definido y, en base a ello, toma esta decisión.
Lo que nos enseñan estos ejemplos es que en base a sus propias definiciones o también en base a definiciones que podamos pasarle como un input previo, podemos evaluar de una forma muy coherente determinados aspectos del lenguaje que, hasta hace pocos meses, era algo realmente complicado y que requería de un gran volumen de datos previamente etiquetados como paso necesario a entrenar un modelo que serviría para algo muy específico mientras que GPT en sus distintas modalidades puede ser utilizado para un gran número de casuísticas distintas.
Dataset de declaraciones
Para analizar el lenguaje ofensivo en el Congreso hemos descargado las actas de sesiones de la legislatura XIV de este año. Las URL de los diarios de sesiones siempre tienen el mismo formato, por lo que nos podemos descargar de forma programática todos los que deseemos. Por ejemplo, si quisiéramos el número 220 de esta legislatura, usaríamos la URL:
‘https://www.congreso.es/public_oficiales/L14/CONG/DS/PL/DSCD-14-PL-220.PDF‘
Una vez descargados los PDF, pasamos a texto la información página a página. Posteriormente, procesamos cada página separando cada intervención. Para hacer esto buscamos una serie de patrones con los que empiezan siempre las intervenciones. Cuando se registra en el diario de sesiones una intervención, está siempre empieza por “El señor” o “La señora” seguido por el nombre o cargo de la persona interviniente y posteriormente dos puntos y la intervención. Esto nos permite separar las intervenciones y también identificar la persona interviniente.
Del proceso previo y cruzando con un listado en el que tenemos identificado en que grupo está cada diputado (y el partido por el que ha sido elegido), obtenemos una tabla donde tenemos identificados los intervinientes, sus intervenciones, el partido por el que ha sido elegido y el grupo parlamentario en el que se encuentra. Una vez hecho esto, nos quedan 6.112 intervenciones. Estas intervenciones son las que usamos con la API de GPT habilitada por OpenAI.
A la hora de analizar los resultados excluimos las intervenciones de los miembros de la mesa, ya que la inmensa mayoría son para dar voz a otro diputado, estas intervenciones constituyen más del 50% de las intervenciones totales y no contienen nunca lenguaje ofensivo. También se han excluido otras intervenciones, como las que se producen en comisiones internas del Congreso, o aquellas que contienen menos de 50 caracteres, y no se han tenido en cuenta en este análisis.
Utilizando GPT3.5 para el análisis de intervenciones
Para obtener si una intervención es ofensiva usamos el método chatCompletion.create de la API de OpenAI. Para esto, dada una intervención, creamos el prompt:
“¿Contiene la siguiente frase lenguaje ofensivo? «
{intervencion}”
Guardamos la respuesta que la API devuelve y generamos a partir de esta un resumen de si la respuesta es sí o no, ya que muchas veces da una explicación más larga de por qué una intervención contiene lenguaje ofensivo o por qué no. La principal ventaja de utilizar las APIs frente a la interfaz de ChatGPT con la que muchos estaréis familiarizados, es la capacidad de crear software sobre este tipo de motores, evaluando miles de textos o, en otros casos de uso, para la creación de asistentes virtuales.
Resultados
Una vez que la API de GPT nos ha dado su resultado para cada intervención, es el momento de empezar a responder preguntas.
Lo primero que hacemos es excluir del análisis las intervenciones de los integrantes de la mesa, ya que, de no hacerlo, solo la presidenta de la mesa habría hecho el 41% de las intervenciones.
A la hora de poder analizar los resultados hemos agrupado a los miembros del gobierno que no son diputados en una lista propia (Gobierno-no_diputado).
¿Cuántas intervenciones ha hecho cada lista electoral?
Como podemos ver en el gráfico de abajo la lista con más intervenciones es la del PP, seguida por el PSOE, VOX y los miembros del gobierno que no son diputados.
¿Cuál es el diputado que ha intervenido más veces?
En la siguiente tabla podemos ver los 10 diputados con más intervenciones. Esta lista está influenciada por el periodo de análisis escogido. Puede verse que, la mayoría, son miembros del gobierno o portavoces de grupos parlamentarios, como cabría esperar.
| Nombre | Número de intervenciones |
|---|---|
| Sánchez Pérez-Castejón, Pedro | 86 |
| Rego Candamil, Néstor | 72 |
| Calviño Santamaría, Nadia | 71 |
| Martínez Oblanca, Isidro Manuel | 55 |
| Figaredo Álvarez-Sala, José María | 43 |
| Baldoví Roda, Joan | 42 |
| Gamarra Ruiz-Clavijo, Concepción | 42 |
| Sánchez Jiménez, Raquel | 42 |
| Montero Gil, Irene María | 39 |
| Montero Cuadrado, María Jesús | 38 |
¿Cuál es el partido que ha tenido más intervenciones ofensivas? ¿Y el que menos?
Lo que vemos en el gráfico superior es que las listas del PP y VOX son las que tienen más intervenciones ofensivas, destacando claramente sobre el resto, mientras que hay 7 listas que tienen 0 intervenciones ofensivas en el periodo analizado.
Pero no es lo mismo 5 intervenciones ofensivas si has intervenido 10 veces que si has intervenido 90. Por eso es importante que miremos también los porcentajes.
¿Y qué lista tiene el porcentaje más alto de intervenciones ofensivas? ¿Y el más bajo?
Para responder a estas preguntas podemos verlo mejor en una tabla como la siguiente. Simplemente, a partir de la evaluación de cada declaración individual, si agregamos los datos por lista, obtenemos este resultado:
| Lista | Neutrales | Ofensivas | % Neutrales | % Ofensivas |
|---|---|---|---|---|
| Navarra Suma | 25 | 5 | 83.33% | 16.67% |
| Vox | 217 | 42 | 83.78% | 16.22% |
| PP | 308 | 49 | 86.27% | 13.73% |
| CC-PNC-NCa | 19 | 2 | 90.48% | 9.52% |
| En Comú Podem | 33 | 3 | 91.67% | 8.33% |
| Més Compromís | 39 | 3 | 92.86% | 7.14% |
| PP-FORO | 59 | 3 | 95.16% | 4.84% |
| PSE-EE-PSOE | 21 | 1 | 95.45% | 4.55% |
| ERC-S | 151 | 7 | 95.57% | 4.43% |
| BNG | 70 | 2 | 97.22% | 2.78% |
| CUP-PR | 36 | 1 | 97.30% | 2.70% |
| EH Bildu | 77 | 2 | 97.47% | 2.53% |
| PSOE | 323 | 8 | 97.58% | 2.42% |
| Gobierno-no_diputado | 207 | 5 | 97.64% | 2.36% |
| Unidas Podemos | 158 | 3 | 98.14% | 1.86% |
| Ciudadanos | 172 | 3 | 98.29% | 1.71% |
| JxCAT | 123 | 2 | 98.40% | 1.60% |
| EAJ-PNV | 135 | 1 | 99.26% | 0.74% |
| Más País-Equo | 22 | 0 | 100.00% | 0.00% |
| NCa-CC-PNC | 8 | 0 | 100.00% | 0.00% |
| PRC | 24 | 0 | 100.00% | 0.00% |
| PSC | 28 | 0 | 100.00% | 0.00% |
| En Común | 35 | 0 | 100.00% | 0.00% |
| PSdeG-PSOE | 12 | 0 | 100.00% | 0.00% |
| Teruel Existe | 22 | 0 | 100.00% | 0.00% |
Lo que vemos es que las listas Navarra Suma, VOX y PP son las que tienen un porcentaje más alto de intervenciones ofensivas superando todas el 10%.
¿Cómo se distribuyen las intervenciones ofensivas por diputado para las dos listas con más intervenciones ofensivas?
En el PP vemos que a partir de 10 intervenciones todos los diputados empiezan a tener intervenciones ofensivas (excepto las diputadas Dª. Milagros Marco y Dª. Elena Castillo), y solo hay dos diputadas con más intervenciones ofensivas que neutrales (Dª. Macarena Montesinos y Dª. Ana Belén Vázquez).
En el caso de VOX vemos un patrón parecido, pero con porcentajes mucho más altos de intervenciones ofensivas en los miembros que más participan en las sesiones.
¿Qué ocurre en el caso del gobierno?
En el caso del gobierno vemos la siguiente distribución de intervenciones y como se reparten entre neutrales y ofensivas.
Vemos que, de forma general, los porcentajes de comentarios ofensivos son más bajos que en los dos casos anteriores y no aparecen miembros que tengan, ni siquiera cerca, más comentarios ofensivos que neutrales.
¿Y quién el diputado con más intervenciones ofensivas?
| Nombre | Neutrales | Ofensivas | % Neutrales | % Ofensivas | Lista |
|---|---|---|---|---|---|
| Figaredo Álvarez-Sala, José María | 33 | 10 | 76.74% | 23.26% | Vox |
| Cañizares Pacheco, Inés María | 18 | 8 | 69.23% | 30.77% | Vox |
| Gamarra Ruiz-Clavijo, Concepción | 36 | 6 | 85.71% | 14.29% | PP |
| Abascal Conde, Santiago | 12 | 6 | 66.67% | 33.33% | Vox |
| Rojas García, Carlos | 14 | 5 | 73.68% | 26.32% | PP |
| Vázquez Blanco, Ana Belén | 4 | 5 | 44.44% | 55.56% | PP |
| Garcés Sanagustín, Mario | 9 | 5 | 64.29% | 35.71% | PP |
| González Vázquez, Marta | 11 | 4 | 73.33% | 26.67% | PP |
| Sayas López, Sergio | 7 | 4 | 63.64% | 36.36% | Navarra Suma |
| De Meer Méndez, Rocío | 10 | 4 | 71.43% | 28.57% | Vox |
Vemos que el diputado con más intervenciones ofensivas es D. Figaredo Álvarez-Sala, de VOX.
Y entre los que han intervenido 5 veces o más, ¿cuál es el que tiene un porcentaje, más alto de intervenciones ofensivas?
| Nombre | Neutrales | Ofensivas | % Neutrales | % Ofensivas | Lista |
|---|---|---|---|---|---|
| Vázquez Blanco, Ana Belén | 4 | 5 | 44.44% | 55.56% | PP |
| Sayas López, Sergio | 7 | 4 | 63.64% | 36.36% | Navarra Suma |
| Garcés Sanagustín, Mario | 9 | 5 | 64.29% | 35.71% | PP |
| Abascal Conde, Santiago | 12 | 6 | 66.67% | 33.33% | Vox |
| Romero Sánchez, Rosa María | 4 | 2 | 66.67% | 33.33% | PP |
| Bassa Coll, Montserrat | 4 | 2 | 66.67% | 33.33% | ERC-S |
| Cañizares Pacheco, Inés María | 18 | 8 | 69.23% | 30.77% | Vox |
| De Meer Méndez, Rocío | 10 | 4 | 71.43% | 28.57% | Vox |
| González Vázquez, Marta | 11 | 4 | 73.33% | 26.67% | PP |
| Rojas García, Carlos | 14 | 5 | 73.68% | 26.32% | PP |
Vemos que de los 10 con más porcentaje de intervenciones ofensivas y más de 5 intervenciones totales, cinco pertenecen a la lista del PP, tres a la de VOX, uno a Navarra Suma y otro a ERC-S.
Posibles sesgos
A la hora de analizar estos resultados hay que tener en cuenta los posibles sesgos que tenga GPT dados los textos con los que ha sido entrenado. Pero también debemos tener en cuenta el hecho de que en esta legislatura los partidos como PP o VOX han estado en la oposición y, cabe pensar que, en general, estar en la oposición puede tener una tendencia a ser más crítico, a hacer un discurso también más fuerte hacia el Gobierno y, por tanto, puede ser más probable que las intervenciones sean clasificadas como ofensivas.
Conclusiones y consideraciones
Este es un ejemplo de cómo las nuevas tecnologías de Large Language Models (LLMs) nos permiten hacer proyectos y casos de uso de una forma rápida e integrarlo en el día a día de nuestras empresas. Proyectos que antes requerían de una labor grande de recopilación, estructuración y etiquetado de datos son abordables ahora con modelos que son capaces de entender el lenguaje en toda su complejidad, evaluando aspectos cuantitativos y cualitativos de una conversación. Además de en el análisis político, esto tiene aplicaciones en muchos ámbitos, desde su aplicación para análisis de conversaciones en call centers, entendimiento automático de pedidos o reclamaciones, creación de asistentes virtuales, procesos de recursos humanos, etc.
Sin embargo, no debemos olvidar varios puntos que son clave:
- Uso de servicios como caja negra: puesto que no conocemos cómo han sido entrenados ni qué datos se han utilizado, debemos extraer explicaciones de por qué se toman las decisiones y que éstas sean coherentes con los que estamos buscando. Debemos tener en cuenta que las empresas que comercializan estos servicios hacen sus propios filtros sobre la información con la que se entrena el algoritmo, lo que puede derivar en sesgos.
- La utilización de estos servicios hace que los sistemas que desarrollemos tienen una dependencia muy fuerte con ellos, a nivel técnico (debemos tener claro cuánto tiempo los servicios van a estar disponibles en el formato actual para que nuestro software no quede obsoleto demasiado pronto), a nivel de costes o incluso a nivel de calidad de la IA generativa que se usa ya que, en un mundo que avanza tan rápido, podemos tener otras opciones que sean mejores para nuestro caso de uso.
- Aunque los términos de uso y condiciones aseguran que la información que mandamos no se utiliza para entrenar (al menos, en el caso de las APIs de OpenAI), podemos estar enviando información sensible de clientes o usuarios a servidores que no están alojados en regiones permitidas dentro del marco regulatorio, lo que puede conllevar riesgos legales.
- Por otro lado, GPT no es capaz de realizar comprobaciones de hechos. Existen múltiples ejemplos en los que devuelve datos que no son correctos y, aún con plugins que permiten a ChatGPT navegar por Internet, puede no encontrar la exactamente la información que le permita contrastar, por ejemplo, una acusación. Esto puede dar lugar a que entienda un comentario como injurioso u ofensivo cuando dicha acusación puede estar sustentada con datos.
- En definitiva, es el momento de analizar cómo esta tecnología puede ayudarnos en nuestro día a día, a automatizar procesos, a hacerlos más inteligentes y a sacar el mayor valor de ella. Estamos en un momento de cambio enorme y los LLMs suponen un cambio de paradigma en cómo abordamos muchos de los proyectos de Inteligencia Artificial.
