Inteligencia artificial y secreto profesional: ¿puede el uso de la IA romper la confidencialidad?

La inteligencia artificial se instaló en el mundo profesional antes de que entendieran realmente sus limitaciones, riesgos e implicancias en materia de seguridad. En el 2025 una de las firmas profesionales más grandes del mundo se vió afectada por esta falta de certeza en el origen de la información suministrada por uno de estos sistemas: Deloitte utilizó inteligencia artificial para preparar informes destinados a organismos gubernamentales en Australia y Canadá, los cuales incluyeron citas académicas falsas y referencias inexistentes.. En el campo legal, uno de los estudios jurídicos más prestigiosos de Nueva York, Sullivan & Cromwell, tuvo que pedir disculpas a un juez federal por presentar un escrito contaminado de alucinaciones generadas por una IA.

Una tecnología que no sabe cuando se equivoca

La tecnología puede fallar, ya que la AI procesa datos e identifica patrones, el verdadero problema es cuando los profesionales utilizan la tecnología sin los recaudos y controles necesarios.

Entender que la AI alucina ayuda a dimensionar ese riesgo. Según el MIT Sloan, los modelos de lenguaje funcionan como herramientas de autocompletado avanzadas, su objetivo es generar contenido plausible, no verificar si ese contenido es verdadero, lo cual significa que cualquier precisión en sus respuestas es en parte circunstancial. Lo que la IA produce suena coherente y correcto porque estadísticamente es probable, no porque sea verdadero. Un estudio de investigadores de OpenAI (empresa fundadora de ChatGPT) publicado en el 2025 fue más lejos: demostró matemáticamente que las alucinaciones son inevitables bajo las arquitecturas actuales de los modelos de lenguaje. La causa no es un defecto técnico corregible, sino una consecuencia estructural de cómo estos sistemas aprenden. Incluso con datos de entrenamiento perfectos, la forma en que los modelos generan texto garantiza que seguirán produciendo errores. A esto se suma otro problema que señala la Harvard Kennedy School Misinformation Review: los controles humanos posteriores también fallan, porque filtrar alucinaciones sutiles es difícil , costoso y dependiente del contexto. Y quizás lo más inquietante, una investigación del MIT encontró que los modelos usan lenguaje más seguro y afirmativo cuando están equivocados.

Cuando el error tiene consecuencias jurídicas

En el mundo jurídico, ese descuido tiene consecuencias graves que van más allá de errores técnicos, como fue demostrado recientemente en Estados Unidos. En United States v. Heppner, el juez federal Jed Rakoff resolvió que los documentos generados con la plataforma de IA llamada “Claude” el modelo de IA de Anthropic, no estaban protegidos por el principio de privilegio abogado-cliente.

Bradley Heppner estaba siendo investigado penalmente por fraude y declaraciones falsas. Cuando vio venir la acusación, decidió hacer algo muy habitual en esta nueva era de la IA: hablar con Claude para organizar ideas, preparar posibles argumentos de defensa y pensar su estrategia legal. Luego, compartió esos documentos generados con IA con sus abogados, pensando que eso estaba protegido por el conocido “attorney-client privilege” y que los documentos formaban parte de su defensa legal. Cuando el FBI allanó su domicilio secuestró esos archivos, la defensa intentó invocar el privilegio y el tribunal no lo admitió.

El juez Rakoff del Southern District of New York consideró que Claude no es abogado, no tiene matrícula y que, por ende, hablar con Claude no equivale a hablar con un profesional obligado por dicha figura legal. Por lo tanto, los intercambios con la IA no quedaron protegidos (¿de qué?). Rakoff además sostuvo que no había confidencialidad suficiente, puesto que Heppner no estaba hablando directamente con su representante, sino que estaba subiendo información a una plataforma de IA propiedad un tercero (Anthropic) de acceso público. Asimismo, se tuvieron en cuenta las políticas de privacidad de Claude, las cuales admitían la posibilidad de que ciertos datos fueran recolectados, usados o revelados bajo determinadas circunstancias. Finalmente, el juez también consideró que el imputado no actuó por indicación de su abogado, sino por iniciativa propia.

¿Qué pasaría si este caso ocurriera en Argentina?

No existe una respuesta inequívoca. Esto se debe a la falta de normativa, regulación y jurisprudencia. Sin embargo, podríamos presumir que los riesgos son similares. En nuestro país el secreto profesional no es solo un privilegio probatorio, es un deber legal establecido en el artículo 156 del Código Penal y en la Ley 23.187 de ejercicio de la abogacía. Asimismo, tiene una justificación constitucional ya que se vincula al derecho de la defensa en juicio y la inviolabilidad de los papeles privados. Sin embargo, esa protección opera dentro del vínculo abogado-cliente. Cuando alguien le consulta sus problemas legales a una aplicación abierta, esa conversación no integraría, acorde al criterio de Rakoff, el ámbito protegido.

El fallo citado deja abierta una distinción relevante para la práctica futura: no toda IA genera el mismo riesgo. Las plataformas empresariales que garantizan contractualmente la confidencialidad y prohíben el uso de los datos para entrenamiento podrían recibir un tratamiento diferente. En ese escenario, y con dirección expresa del abogado, el uso de IA podría encuadrar como un agente letrado. Argentina no tiene jurisprudencia consolidada al respecto, pero el debate relacionado a esta problemática ya llegó a nuestros tribunales.

La IA no es el problema en sí. El verdadero desafío radica en la limitada regulación y normativa existente y sobre todo en su utilización adecuadamente sus consecuencias jurídicas. Para un cliente, conversar con un chatbot puede ser tan riesgoso como contarle el caso a un desconocido. Para un abogado, delegar su trabajo en ella sin supervisarla es incompatible con los deberes de competencia y confidencialidad que exige la profesión. El secreto profesional no es negociable, ni siquiera frente a la tecnología.

Centro de Estudios Interdisciplinarios para el Desarrollo (CEIPED) © 2026

Recibe nuestro trabajo en tu correo

Suscríbete y no te pierdas ninguno de nuestros artículos