Un abogado estadounidense estuvo obligado a pedir disculpas por haber utilizado el programa de Inteligencia Artificial ChatGPT para preparar un caso judicial. El profesional identificado como Steven Schwartz, ejerce en Nueva York, y se disculpó ante un juez esta semana por presentar un informe lleno de falsedades generadas por el chat conversacional de OpenAI.
"Simplemente no tenía idea de que ChatGPT fuera capaz de fabricar citas de casos completos u opiniones judiciales, incluso de una manera que pareciera auténtica", escribió Steven Schwartz.
El error ocurrió en un caso civil ventilado ante un tribunal federal de Manhattan, en el cual la compañía aérea colombiana Avianca fue demandada por una persona que afirmaba haber sufrido lesiones durante un vuelo entre El Salvador y Nueva York en agosto de 2019. Luego que los abogados de la aerolínea pidieran al tribunal que desestimara el caso, Steven Schwartz presentó una respuesta en la que citaba más de media docena de decisiones anteriores para respaldar su argumento de que el litigio debía continuar.
Pero todos esos fallos no habían existido, porque tampoco los casos evocados eran reales, como pudieron comprobarlo el juez Kevin Castel y los abogados de Avianca.
Schwartz se vio obligado a admitir que ChatGPT lo había inventado todo
En las últimas declaraciones orillaron al letrado a admitir que la Inteligencia Artificial inventó todo, y ahora la corte se enfrenta a una circunstancia sin precedentes", escribió el juez Castel el mes pasado. "Seis de los casos presentados parecen ser decisiones judiciales falsas con citas falsas y citaciones internas falsas", agregó. Luego de esto, el juez ordenó a Schwartz y a su socio legal comparecer ante él para enfrentar posibles sanciones.
Fue "un error profundamente lamentable", se disculpó Schwartz ante el tribunal antes de una audiencia ocurrida el martes.
Recalcó que sus hijos con educación universitaria le habían presentado ChatGPT y que era la primera vez que lo usaba en su trabajo profesional. En su discurso de disculpa, escribió que en el momento en el que él realizó una investigación legal en este caso, "creía que ChatGPT era un motor de búsqueda confiable. Ahora sé que eso era incorrecto", explicó. "Nunca fue mi intención engañar a la corte".
Más sobre Open AI, y sus programas
ChatGPT se ha convertido en una sensación global desde que se lanzó a fines del año pasado por su capacidad para producir contenido similar al humano, incluidos ensayos, poemas y conversaciones, a partir de indicaciones simples. Y es que un portavoz de OpenAI no respondió de inmediato a una solicitud de comentarios sobre el error de Stevean Schwartz. Cabe destacar que la historia fue reportada por primera vez por The New York Times.
Asimismo, Steave Schwartz dijo que él y su firma, Levidow, Levidow & Oberman, habían sido "ridiculizados públicamente" en la cobertura de los medios. "Esto ha sido profundamente vergonzoso tanto a nivel personal como profesional, ya que estos artículos estarán disponibles en los próximos años", escribió.
"Este asunto ha sido una experiencia reveladora para mí y puedo asegurarle a la corte que nunca volveré a cometer un error como este", concluyó.