En la ciudad de Porto Alegre, Brasil, legisladores municipales promulgaron un agregado de ocho artículos redactados íntegramente por inteligencia artificial. Sin embargo, este hecho tuvo una particularidad: muchos desconocían el origen de la modificación.
De acuerdo con un artículo de The Washington Post, en octubre, los 36 concejales del Ayuntamiento de Porto Alegre aprobaron por unanimidad un proyecto de ley que aligeraba la carga de los contribuyentes y ahorraba a los habitantes de la ciudad brasileña el gasto de sustituir los contadores de agua instalados por el ayuntamiento que habían sido robados.
La ley entró en vigencia el pasado 23 de noviembre pero, Ramiro Rosário, concejal y su principal promotor, tuiteó tan solo seis días después lo que sería una gran sorpresa para todo el mundo: la ley había sido escrita, pensada y redactada por ChatGPT, el chabot conversacional de la empresa tech OpenAI.
A primeira lei brasileira feita exclusivamente por inteligência artificial está vigente em Porto Alegre!
— Ramiro Rosário (@curtaramiro) November 29, 2023
Ela não tem nada de ideológica. Ao contrário, é bem comum. Ela impede a cobrança pela prefeitura de hidrômetros furtados. Aliás, passaria despercebida se eu não contasse.…
En su publicación en X (antes Twitter), el político detalló cómo había sido el proceso. En primera instancia, explicó que el problema del cargo por los contenedores de agua robados era una cuestión que aquejaba a los ciudadanos hace un tiempo. Allí fue donde comenzó a surgir la idea de hacer un proyecto de ley que regulara este conflicto.
Sabía que desarrollarla iba a tomar mucho tiempo (días y horas) junto con su equipo legal y, como el entusiasta tecnológico que es, decidió llevar a cabo un experimento: pedirle a ChatGPT que redacte la ley. En “tan solo segundos” la inteligencia artificial creó todo el proyecto, incluida la justificación y utilizando sus propios parámetros.
El legislador explicó que ChatGPT propuso dos ideas que nunca se le habían ocurrido: establecer un plazo de 30 días para que la ciudad sustituya los contadores de agua robados y, en los casos en que no se cumpla ese plazo, eximir a los propietarios del pago de sus facturas de agua.
“La tecnología sirve para reducir costes y optimizar nuestro trabajo. Traerá ganancias en calidad y productividad, especialmente para cámaras interiores que no tienen estructuras más grandes”, reflexiona acerca de la lección que les deja este hecho. “Nadie será reemplazado por la IA, sino por aquellos que sepan utilizarla”, concluyó.
El derecho, ¿una actividad posible para ChatGPT?
Si bien la ley fue aprobada, cuando se anunció que la inteligencia artificial había sido el autor original, muchos de los legisladores dieron un paso atrás e incluso lo nombraron como un precedente “peligroso”. El hecho de que esta no haya sido pensada y escrita por profesionales del derecho era, efectivamente, un problema.
Pero, ¿por qué? Martín de León, abogado especialista en políticas públicas, explica en diálogo con RED/ACCIÓN que, si bien nosotros podríamos educar a un modelo de inteligencia artificial para que satisfaga el cumplimiento de aspectos muy formales y modélicos de las leyes, para realizar las justificaciones de motivos requerimos de la participación de una persona.
Además, continúa, el derecho es una de las ciencias en donde la intervención humana tiene como meta o como objetivo la resolución del conflicto y, para ello, el uso del sentido común sobre el caso es esencial, cualidad no contemplada por la inteligencia artificial.
“No se puede prescindir del sentido común en el abogado porque en ese caso hay un riesgo grave de cometer un injusto”, expresa De León. “En ese sentido hay que ser cuidadoso con cuánto estamos dispuestos a conceder a la inteligencia artificial en la interacción y la intervención del documento”, profundiza.
En esta línea, según The Associated Press, Andrew Perlman, decano de la Facultad de Derecho de la Universidad de Suffolk, explicó que ChatGPT, al ser un sistema de aprendizaje automático, no tiene el mismo nivel de comprensión y juicio que un abogado humano a la hora de interpretar principios y precedentes jurídicos lo cual podría generar problemas en situaciones donde se necesita un análisis más profundo.
En su defensa, Rosário explicó que si lo hubiera dicho antes seguramente la ley ni siquiera se habría sometido a votación. Esto, de acuerdo al concejal, hubiese sido injusto para la población ya que, solo porque un chatbot la haya redactado, sus beneficios quedarían opacados ante una necesidad latente.
Aunque esto parece algo innovador, el pasado mayo sucedió algo similar en Costa Rica. La diputada Vanessa Castro del Partido Unidad Social Cristiana presentó un proyecto que fue elaborado en su totalidad por ChatGPT, de acuerdo con El Comercio. Sin embargo, ella avisó a sus colegas antes y determinó que sería el Congreso el encargado de analizar la propuesta, entrevistar a expertos, hacer cambios y determinar si está aprobada o no.
“La pauta es no abusar y no confiar en la IA como un sustituto de la inteligencia humana”, concluye De León con respecto al futuro del derecho. “Es una herramienta que permite simplificar cuestiones que muchas veces, si uno las hace mecánicamente las puede hacer mal, pero no reemplaza el sentido común o al razonamiento crítico. Es un modelo de lenguaje y hay que entenderlo como eso”, finaliza.
