Un estudio de Semrush, en el cual se analizaron 150 mil interacciones con IA, descubrió que más del 40% de las fuentes utilizadas por los modelos para construir sus respuestas provenía de Reddit. Este es un foro de discusión gigante, alimentado por usuarios anónimos que comparten información miscelánea, donde la relevancia del contenido la decide la comunidad mediante votos y no necesariamente la veracidad técnica. El resto de las fuentes se compone de sitios como Facebook, YouTube, Amazon e Instagram.

La Inteligencia Artificial generativa es hoy parte natural del día a día. Para una gran parte de la población, el uso de estas herramientas se limita a interacciones domésticas que buscan resolver dudas cotidianas sin mayor repercusión. Lo que antes se conseguía con una búsqueda en Google, hoy está siendo reemplazado por la inmediatez de la IA.

Sin embargo, en el mundo profesional, especialmente en el ámbito jurídico, no todo es “color de rosa”. Un estudio de Semrush, en el cual se analizaron 150 mil interacciones con IA, descubrió que más del 40% de las fuentes utilizadas por los modelos para construir sus respuestas provenía de Reddit. Este es un foro de discusión gigante, alimentado por usuarios anónimos que comparten información miscelánea, donde la relevancia del contenido la decide la comunidad mediante votos y no necesariamente la veracidad técnica. El resto de las fuentes se compone de sitios como Facebook, YouTube, Amazon e Instagram.

Este dato es crítico para el abogado. Sea para un uso doméstico o profesional, el core del conocimiento de un modelo de IA sigue basándose en estas mismas fuentes. Por más que un usuario profesional establezca límites y restricciones en sus prompts, la IA debe obtener los datos de algún lado, y para eso su fuente principal es el internet abierto. De aquí se desprende un riesgo evidente: la falta de certeza sobre qué fuentes están siendo realmente utilizadas.

Hoy asistimos a una batalla entre gigantes como OpenAI, Google o Anthropic por acaparar dichas fuentes, evidenciada en acuerdos de exclusividad como el de Google con Reddit, dejando al resto de los actores fuera de juego.

Las consecuencias de ignorar estas limitaciones ya son una realidad en nuestro país. Un abogado en Concepción fue recientemente sancionado con una multa de 1 UTM por el Segundo Juzgado Civil de dicha ciudad tras utilizar jurisprudencia inexistente en una demanda.

El profesional presentó fallos que supuestamente respaldaban su postura, incluyendo números de Rol y fechas específicas, pero todo el contenido era falso. Fue el abogado de la contraparte quien, al intentar verificar las sentencias, notó la inconsistencia e informó al juez.

Tras verificarse el hecho, el abogado reconoció el error. Al respecto, Franklin Bustos, fundador del estudio que presentó la demanda, señaló: “Tenemos tecnologías y estas tecnologías están para ser utilizadas. Pero sí hay que ocuparlas con mucha responsabilidad y seriedad. Entonces, me interesa mucho esta noticia para que no vuelva a suceder en otro estudio jurídico”.

¿Qué lección podemos obtener de este caso? La primera y más obvia es que todo resultado obtenido mediante IA debe ser estrictamente verificado antes de su uso profesional. Pero existe una segunda lección más profunda: la importancia de distinguir entre herramientas generales y profesionales.

Sin embargo, incluso estas últimas requieren cautela, ya que la gran mayoría no utiliza la depuración de fuentes. La depuración no consiste solo en tomar un documento y agregarlo a una base de conocimiento; implica procesos de análisis que limpian los documentos, ordenan su contenido y los procesan para ser entrenados en un sistema corporativo de IA.

Para que este proceso funcione correctamente, se requiere la sinergia entre ingenieros y abogados, quienes deben determinar los aspectos específicos de dicha limpieza.

La lección del caso en Concepción es que las herramientas en sí mismas no son el riesgo; el riesgo reside en la diligencia del profesional que las utiliza y selecciona. Todo avance tecnológico exige educación y entendimiento. Quienes más se eduquen en estas diferencias serán quienes aprovechen mejor la tecnología, traduciéndola en mayor eficiencia.

La Inteligencia Artificial aún está lejos de reemplazar el flujo completo de un abogado, pero sí es un complemento que otorga una ventaja competitiva. La IA no reemplazará a los abogados en el mediano plazo, pero los abogados que conozcan y utilicen correctamente esta tecnología, inevitablemente, reemplazarán a aquellos que no lo hagan.

Diego Navarro Salman, Coordinador Comité de IA de ALTECH y Fundador SPEKTR AI