ChatGPT es un sistema de chat basado en el modelo de lenguaje por Inteligencia Artificial GPT-3 desarrollado por la compañía OpenAI. Hasta ahí no hay mucha diferencia con otros chat bots que en este mundo funcionan ya basados en la misma tecnología.
¿Qué hace a este sistema de chat diferente de los demás?
En primer lugar, cuenta con más de 175 millones de parámetros, y ha sido entrenado con grandes cantidades de texto para realizar tareas relacionadas con el lenguaje, desde la traducción hasta la generación de texto.
En segundo lugar, OpenAI asegura que es capaz de interactuar de forma conversacional y que ha sido diseñado para que resulte flexible y facil de usar.
Open AI asegura que el formato de diálogo hace posible que ChatGPT responda preguntas de seguimiento, admita sus errores, cuestione premisas incorrectas y rechace solicitudes inapropiadas.
Al estar ligado a una iteligencia artificial (IA) el chat se entrena y mejora con cada interaccón con los humanos. Almacena todas las consultas para conseguirlo, de modo que mejor no plantear cuestiones personales o que se deban mantener en privado.
También ha podido contribuir al revuelo mediático la brillantez de las pruebas en beta y el hecho de que, aunque actualmente se haya alejado del proyecto, el nombre de Elon Musk (Tesla, Twitter, SpaceX, entre otras compañía tecnológicas) aparzca entre los inversones que hicieron posible poner en marcha OpenAI en 2005.
Capaz de escribir con el estilo de un periodista pero sin capacidad crítica
Quienes han probado ya ChatGPT, entre ellos profesores, académicos y programadores aseguran que han obtenido respuestas de la más alta calidad y en cuestión de segundos. Dignas de la puntuación más alta si fueran respuestas a examenes universitarios, en el caso de los profesores. El Chat ha sido capaz de solucionar problemas de programación de lo más complejo y oscuro.
ChatGPT ha deslumbrado también por su capacidad para generar textos escritos con cierta calidad como si fuera un humano. Pero a pesar de la brillantez de la prueba en beta, el asunto es que este chat con IA no puede ir más allá de los textos y datos que le han cargado para funcionar (su base de textos acaba en 2021) y podría generar una respuesta perfectamente plausible en apariencia pero totalmente incorrecta o carente de sentido. Y este problema resulta difícil de solucionar, según OpenAI, porque no hay un criterio de veracidad o fuente de verdad en los textos y datos que se están empleando para entrenar a ChatGPT.
Por otro lado indica igualmente la tecnológica: «Entrenar al modelo para que sea más cauteloso podría producir que rechace preguntas que, sin embargo, podría responder correctamente. Y añade, «el entrenamiento supervisado engaña al modelo porque la respuesta ideal depende de lo que sabe el modelo, en lugar de lo que sabe el demostrador humano».
También carece de moral, al menos de momento
» Nos hemos esforzado para que el modelo rechace solicitudes inapropiadas, pero a veces responderá a instrucciones dañinas o exhibirá un comportamiento sesgado.
Estamos utilizando la API de moderación para advertir o bloquear ciertos tipos de contenido no seguro, pero esperamos que tenga algunos falsos negativos y positivos por ahora,» reconoce la compañía. «Estamos ansiosos por recopilar comentarios de los usuarios para ayudar en nuestro trabajo continuo para mejorar este sistema,» asegura OpenAI.
Otras limitaciones de ChatGPT
Según reconoce la compañía, Chat GPT a veces puede no entender las preguntas que se le dirigen afirmando que no conoce la respuesta pero contestar correctamente la misma pregunta una vez reformulada.
OpenAI a veces resulta prólijo o detallado en exceso en sus respuestas y tiende a emplear expresiones reafirmantes debido al entrenamiento de OpenAI. Estas limitaciones o problemas tienen su raiz en sesgos en los datos de entrenamiento (los capacitadores prefieren respuestas más largas que parezcan más completas). Tambien pueden deberse a problemas de sobreoptimización bien conocidos.
ChatGPT debería formular preguntas aclaratorias cuando el usuario realizara una consulta ambigua en el fondo o en la forma, pero actualmente el modelo tiende a adivinar lo que pretendía consultar el usuario y contesta en función de esta suposición.
Imagen sobre el titular.- Bot con IA. Imagen de mikemacmarketing, a través de Wikimedia Commons. Para ver la imagen original click aqui, para leer los términos de la licencia clic aquí.
Links externos relacionados:
¿Interesado en conversar con ChatGPT?, clic aquí
