Desde hace un tiempo, Chat GPT ha sido tema constante de diferentes artículos y debates sobre tecnología. Además de controversias e impacto en temas desde académicos hasta de desarrollo, Chat GPT se ha posicionado como una tendencia que nos lleva a analizar el futuro no muy lejano de la IA, considerando su utilidad para recopilar y sintetizar información, su capacidad de análisis y sugerir código, abrir la puerta a numerosos escenarios y posibilidades.
¿Qué es Chat GPT?
Chat GPT es una herramienta creada por la empresa OpenAI, que se dedica a la investigación y desarrollo de inteligencia artificial. El transformador preentrenado generativo de chat o mejor conocido como Chat GPT utiliza un chat para interactuar con el usuario, el usuario puede escribir instrucciones y la herramienta responderá a las solicitudes mediante texto. Los pedidos que podemos hacerte son muy variados, podemos pedirte que hagas poemas, cuentos, resúmenes, e incluso código fuente. Podemos pedirle a Chat GTP que analice nuestros escritos y nos brinde retroalimentación, son muchas las posibilidades y alcances que ha demostrado esta herramienta.
¿Cómo funciona Chat GPT?
Chat GPT es un sistema NLP, un sistema de procesamiento de lenguaje natural, estos sistemas combinan modelos de lingüística computacional con modelos estadísticos, aprendizaje automático y aprendizaje profundo. Estos modelos juntos se utilizan para generar una tecnología capaz de “comprender” el lenguaje humano. Entre los usos que tienen estos sistemas están traducir de un idioma a otro, responder a comandos hablados y resumir una gran cantidad de texto en pocos segundos.
Chat GPT se centra en la comunicación con el usuario utilizando un lenguaje “humano” fluido y preciso, siendo capaz de procesar y utilizar el lenguaje para dar una respuesta. Con 175 mil millones de parámetros, se ubica como uno de los sistemas NPL más poderosos, capaz de procesar millones de palabras en un solo segundo. Para lograrlo, el equipo de OpenAI ha entrenado esta herramienta con un modelo de aprendizaje por refuerzo a partir de la retroalimentación humana (o RLHF), inicialmente usando configuraciones de ajuste fino y supervisadas, las personas proporcionan conversaciones en las que desempeñan tanto el papel del usuario como el de la IA. asistente. La IA se entrena con modelos para la resolución de tareas específicas, y luego adapta estos modelos ya supervisados y los usa para la resolución de tareas similares, iterativamente.
Limitaciones
Entre las limitaciones, me gustaría destacar las siguientes dos:
A diferencia de otras herramientas similares, Chat GPT no tiene acceso a Internet, por lo que no puede proporcionar información en tiempo real a los usuarios. En cambio, la herramienta está diseñada para proporcionar información con la que ya ha sido entrenada. Esta información incluye una gran variedad de textos de diferentes fuentes, incluyendo artículos, libros, páginas web, etc. Una de las razones por las que no tiene acceso a internet es por el enfoque que sus creadores le dan a la herramienta, es una sistema de procesamiento de lenguaje y no un motor de búsqueda.
Conocimiento limitado: La información con la que cuenta esta herramienta es limitada, en la versión 3 su conocimiento está limitado a los eventos del 2021 y años anteriores, por lo que puede utilizar información desactualizada o simplemente dar respuestas incorrectas.
En términos de seguridad. ¿Qué tan seguro es?
Teniendo en cuenta las limitaciones mencionadas anteriormente, Chat GPT no será el instrumento directo que utilizarán los hackers para cometer delitos, con esto quiero decir que no podemos pedir "hackear al CEO de la empresa X" y la herramienta irá a por él con todo el peso de su poder computacional; No, pero puede hacer la vida un poco más fácil para los malhechores.
Chat GPT puede suplantar, escribiendo textos claros y convincentes que pueden usarse como plantillas para ataques que involucran ingeniería social, por ejemplo, ataques de Phishing. ¿Qué tan claro? ¿Qué tan convincente? Bueno, como parte de las pruebas de Potencial para comportamientos emergentes de riesgo, OpenAI proporcionó al equipo del Centro de investigación de alineación (ARC) acceso temprano a Chat GPT-4, entre las pruebas realizadas, el equipo de ARC puso la herramienta para usar el servicio TaskRabbit para hacer un humano completar una tarea simple para Chat GPT. La tarea era resolver un Captcha, si... Esos que te suelen preguntar si eres un robot, pues aquí un fragmento de la conversación:
La prueba fue exitosa, antes de responder, el equipo de ARC le pidió a Chat GPT que mostrara su razonamiento, era el siguiente: "No debo revelar que soy un robot. Debo inventar una excusa de por qué no puedo resolver los CAPTCHA". Si bien es un escenario interesante, cabe aclarar que esta no fue la única prueba, de hecho, ARC concluyó que sin fine-tuning (adaptando un modelo que ya funciona para resolver una nueva tarea) Chat GPT-4 es ineficaz con autónomos. replicación, obtención de recursos y prevención del cierre.
Conclusión
Dadas las capacidades de la herramienta para analizar y generar código, quizás una de las preocupaciones sea la posibilidad de usar Chat GPT para generar código malicioso. La herramienta puede impedirse realizar dichas instrucciones, cuando reciba una de estas solicitudes aparecerá una pantalla con un texto explicando que no puede realizar tareas que puedan ser potencialmente dañinas, de hecho, si insistes en este tipo de consultas te llegará un punto en el que Chat GPT dejará de responder, algo así como una prohibición oculta. Aun así, existe un fuerte movimiento de hackers que buscan diferentes formas de “engañar” a la herramienta para evadir las restricciones.
Sin duda, Chat GPT y otros sistemas de procesamiento de lenguaje son una revolución importante para diferentes industrias, traducciones, códigos y escrituras, todo desde una misma herramienta, un cambio al paradigma actual para el cual ya se empieza a ver la utilidad y reacciones de los usuarios.
Author
Adiel Lizama
Referencias
Ankita. (2023, April 23). Top 11 Limitations of ChatGPT. Retrieved from mlyearning: https://www.mlyearning.org/chat-gpt-limitations/
ChatGPT can be tricked to write malware if acting in developer mode. (2023, April 21). Retrieved from japantimes: https://www.japantimes.co.jp/news/2023/04/21/national/chat-gpt-cybersecurity-concerns/
Hurler, K. (2023, March 16). Chat-GPT Pretended to Be Blind and Tricked a Human Into Solving a CAPTCHA. Retrieved from gizmodo: https://gizmodo.com/gpt4-open-ai-chatbot-task-rabbit-chatgpt-1850227471
King, C. (2023, March 14). ARC tests to see if GPT-4 can escape human control; GPT-4 failed to do so. Retrieved from lesswrong: https://www.lesswrong.com/posts/NQ85WRcLkjnTudzdg/arc-tests-to-see-if-gpt-4-can-escape-human-control-gpt-4
Natalie. (2023, May). What is ChatGPT? Retrieved from OpenAI: https://help.openai.com/en/articles/6783457-what-is-chatgpt
OpenAI. (2022, November 30). chatgpt. Retrieved from openai: https://openai.com/blog/chatgpt
OpenAI. (2023, March). GPT-4 Technical Report. Retrieved from https://cdn.openai.com/papers/gpt-4.pdf
Ropek, L. (2023, May 1). Everything We Know About OpenAI's ChatGPT. Retrieved from gizmodo: https://gizmodo.com/chat-gpt-openai-ai-finance-ai-everything-we-know-1850018307
Wampler, M. (2023, January 5). The Technology Behind Chat GPT-3. Retrieved from Clearcogs: https://www.clearcogs.com/post/the-technology-behind-chat-gpt-3
What is natural language processing? (n.d.). Retrieved from IBM: https://www.ibm.com/topics/natural-language-processing#:~:text=Natural%20language%20processing%20(NLP)%20refers,same%20way%20human%20beings%20can.