Enero de 2023. Un juez de Colombia debió resolver un caso sobre el derecho a la salud de un niño autista. La controversia versaba sobre la exoneración del pago de citas médicas, terapias y transporte hacia los centros hospitalarios, dado que su familia no contaba con los recursos necesarios. El tribunal falló a favor del menor de edad ¿El fundamento? Una conversación con ChatGPT.
Mayo 2023. Un abogado de Nueva York interpuso una demanda contra la aerolínea Avianca. Su defendido aseguraba haber sufrido una lesión al ser golpeado con un carrito de servicio durante un vuelo. Como contracara, la defensa presentó una solicitud para desestimar el caso. El abogado se opone citando jurisprudencia. Ninguno de ellos parecía aplicable ¿el motivo? Habían sido inventados por ChatGPT.
Estos dos ejemplos demuestran que los sistemas de lenguaje generativos están siendo ampliamente utilizados en el mundo del derecho y en las operaciones legales (aunque muchas veces no seamos capaces de admitirlo).
Según una encuesta del Instituto Thomson Reuters, el 51% de los profesionales de los bufetes de abogados creen que herramientas como ChatGPT deberían aplicarse al trabajo legal, pero, sin embargo, solo el 3% admite estarlo utilizando. Por otro lado, un poco más de un tercio de los encuestados dijo que todavía están en la fase de consideración para el uso de la tecnología de IA generativa y una aplastante mayoría del 60% no tienen planes de incorporarla a sus operaciones.
Tal vez sea cierto que la adopción de ChatGPT no forme parte de una política oficial entre los equipos legales de las empresas, pero no puede negarse que su adopción ha sido masiva por parte de las personas, profesionales o no, en las tareas de su día a día. Incluso, otro estudio ha revelado que 7 de cada 10 empleados utilizan el chatbot en el trabajo y no se lo han contado a sus jefes.
Es curioso, aunque no sorprendente, que cuando este tipo de herramientas se emplean en ámbitos profesionales o educativos, las personas se muestran reacias a admitirlo. Esto se debe primero, a algunas utilizaciones irresponsables de la tecnología por parte de las personas y segundo, a ciertos mitos que circulan en nuestra sociedad, muchos probablemente a causa del desconocimiento. Después de todo, no hay forma de saber si estos modelos de lenguaje han contribuido en la elaboración de un texto y mucho menos en qué medida. Mientras no cometan errores absurdos ni evidentes, no hay ojo humano ni herramienta capaz de, infaliblemente, detectar los pasajes escritos por ChatGPT.
Para mitigar este fenómeno, es preciso entender que ninguna tecnología es ni buena ni mala en sí misma, y que ello depende de la forma en que la utilicemos. Por eso, en esta nota explicaremos brevemente algunas ventajas y desafíos del uso de la IA generativa en el sector legal, junto con otros recaudos que se deben adoptar para respetar ciertas pautas éticas.
Algunos desafíos y recaudos
Tal como en el ejemplo del abogado neoyorquino, debe tenerse en cuenta que cuando ChatGPT no sabe una respuesta, la inventa. Aunque es cierto que a veces logra admitir que no ha recibido entrenamiento para dar información sobre determinadas cuestiones (por ejemplo, hechos posteriores hasta septiembre de 2021), muchas otras redacta salidas que suenan plausibles, pero son incorrectas o sin sentido.
Por ello, se dice que uno de los grandes problemas de la IA generativa es que alucina y le cuesta distinguir entre realidad y ficción. Es lógico que esto pase dado que justamente, este tipo de sistemas se caracterizan por generar textos originales y nuevos que no han sido escritos antes por nadie más. Sin embargo, al mismo tiempo, es problemático cuando el chatbot es utilizado en contextos críticos y cuando su interlocutor humano no tiene el conocimiento especializado suficiente para detectarlo.
Para moderar el riesgo de alucinaciones es importante no introducir entradas ambiguas, sino instrucciones que sean lo más detalladas, contextualizadas y precisas posibles. Asimismo, la información toma un rol protagónico: los profesionales del derecho deben capacitarse en el uso de estas herramientas para ser conscientes de sus limitaciones y potencialidades. De esta forma, serán capaces de darle un uso adecuado y útil, sorteando, al mismo tiempo, éste y otros desafíos.
Otra de las polémicas que circulan de la mano de los recientes lanzamientos de OpenAI y Google es el reemplazo de los profesionales en manos de la IA generativa. En relación a ello, se postula un eventual deterioro en capacidades cognitivas humanas.
Lo cierto es que el proceso de escritura ayuda a dar sentido a las ideas, entrena la imaginación y obliga a ponerte en el lugar de la persona que leerá tus palabras. Pero todas estas capacidades no tienen por qué perderse mediante el uso de una herramienta. A lo sumo, la inteligencia artificial contribuirá a potenciar estos beneficios, siempre y cuando sea correctamente utilizada. O también, tiene el potencial de transformar las tareas, requiriendo de las personas nuevas habilidades igualmente valiosas. Por ejemplo, el abogado que tome de base una respuesta de ChatGPT, deberá considerarla desde una óptica crítica, contrastarla y corroborarla con otras fuentes, además de refinarla con su conocimiento especializado.
Algunas ventajas
Ya hemos documentado todas las funcionalidades que ChatGPT puede ofrecer en el ámbito legal. Incluso, desde Legal HUB estamos trabajando en un proyecto para la Ciudad de Buenos Aires que consiste en reentrenar el gran modelo de lenguaje de OpenAI para volverlo especialista en clarificar textos legales. Todos estos usos de sistemas generativos del lenguaje implican una serie de ventajas para los profesionales del derecho que sepan aprovecharlos.
En primer lugar, estos programas son capaces de acelerar y optimizar la confección de escritos legales y la investigación jurídica. Ya sea proporcionando plantillas, arrojando ideas, o refinando la calidad de la redacción, resultan ser una herramienta valiosa que complementa el trabajo de los operadores humanos. Como suele suceder, automatizar tareas se traduce en un ahorro de tiempo.
Además, la novedad de ChatGPT respecto a otros sistemas similares, es la accesibilidad y facilidad que presenta su utilización. La posibilidad de aprovecharlo desde cualquier dispositivo, su gratuidad, y el diseño intuitivo e interactivo de preguntas y respuestas hace que no se requieran grandes esfuerzos ni conocimiento especializado para valerse de sus funcionalidades.
Ahora, los abogados tienen a mano una herramienta sofisticada para favorecer su trabajo. Esperamos que este hito contribuya a que el sector tome conciencia de la importancia de la tecnología en las operaciones legales. Un chatbot general y multipropósito, es solo el comienzo de la magnitud que la transformación puede alcanzar en los departamentos legales. Desde Legal HUB nos entusiasma ser parte de ella.