aÂÂHay gobiernos que se han dado cuenta de que no solo pueden regular las redes sociales por el bien comAon, sino que tambiA©n por su propio interA©saÂÂ
aÂÂHay gobiernos que se han dado cuenta de que no solo pueden regular las redes sociales por el bien comAon, sino que tambiA©n por su propio interA©saÂÂ
aÂÂMeta es, con diferencia, el regulador del lenguaje humano mA¡s poderoso que jamA¡s haya existido en la historiaaÂÂ, afirma Paolo Carozza, profesor de la Escuela de Derecho de la Universidad de Notre Dame y miembro del Consejo Asesor de Contenido (Oversight Board) de Meta, un A3rgano que funciona de forma independiente de la matriz de Instagram, Facebook, Threads y WhatsApp.
Entrevista a Paolo Carozza:
El profesor de Derecho de la Universidad de Notre Dame y miembro del Consejo Asesor de Contenido de Meta comenta que las tensiones entre generadores de contenidos de redes sociales y los gobiernos estA¡ ocurriendo en todas partes, incluso en democracias. aÂÂEso sA que es preocupante. Sin dudaaÂÂ.
Carolina AÂlvarez PeA±afiel Equipo El Mercurio.com
aÂÂCon semejante autoridad y poder, la responsabilidad es inevitableaÂÂ, comenta el experto, al abordar en esta entrevista con aÂÂEl MercurioaÂÂ, el rol de las grandes tecnolA3gicas en el desarrollo y la sociedad, mA¡s allA¡ de los procesos judiciales abiertos en su contra en varios paAÂses. El acadA©mico estuvo hace algunos dAÂas en Chile para participar en las XVIII Jornadas Internacionales de Derecho Natural de la Facultad de Derecho de la UC, en las que el tema central fue la libertad de expresiA3n en la era digital.
El Consejo al que Carozza se integrA3 aÂÂpara intentar que Meta rinda cuentasaÂÂ tiene un rol que se limita a revisar decisiones puntuales respecto de la moderaciA3n de contenidos en las tres redes sociales de la firma, cuando esta recibe algAon reclamo. Pero para el experto su aÂÂmera existenciaaÂÂ, junto a la de normas comunitarias y una polAÂtica de derechos humanos en esa firma, aÂÂal menos en apariencia, es el reconocimiento de que tiene responsabilidad social, a escala global, no solo en Estados UnidosaÂÂ. aÂÂAsAÂ que creo que ese es un punto de partida importanteaÂÂ, afirma.
El acadA©mico plantea entonces una diferencia: aÂÂEn ocasiones, eso implica responsabilidades legales formales dentro de los sistemas jurAÂdicosaÂÂ, que es lo que estA¡ ocurriendo en los juicios o con la creciente regulaciA3n del contenido de las redes sociales en distintos paAÂses. Y aunque reconoce que algunas de estas medidas pueden ser beneficiosas, comenta que aÂÂno creo que el tipo de responsabilidad que generan estos juicios sea precisamente la adecuada en la que deberAÂamos pensaraÂÂ.
aÂÂA¿QuA© tipo serAÂa el adecuado?
aÂÂEl problema con los juicios es que todos son retroactivos. Su regulaciA3n, sus intervenciones; se les asigna la responsabilidad despuA©s de que el daA±o estA¡ hecho, despuA©s de que el producto ya estA¡ diseA±ado.
Cuando tienes la arquitectura de un gran sistema tA©cnico, es muy difAÂcil modificarlo, redirigirlo, no solo internamente en Meta, sino socialmente, porque la gente ya ha empezado a usar las plataformas, estA¡n involucrados en ellas.
Por lo tanto, considero que el litigio evidencia que no actuamos con la suficiente antelaciA3n para reformar y orientar los productos, de manera que no causaran daA±os. Esa es una lecciA3n fundamental, porque se avecinan muchas mA¡s tecnologAÂas. Y es por eso que ahora nos interesa abordar la cuestiA3n de los chatbots (de IA), por ejemplo.
Ya es tarde, pero esperemos que no demasiado, para que, en el caso de estas otras tecnologAÂas que estA¡n transformando las relaciones sociales, aprendamos de los fracasos en la regulaciA3n de las redes sociales y que volvamos a instituir requisitos y normas de diseA±o sA3lidos desde el principio, de modo que no necesitemos o, al menos, podamos minimizar la necesidad de este tipo de medidas correctivas a posterioriaÂÂ.
SegAon Carozza, aunque no ha visto que a nivel internacional haya una voluntad de acordar restricciones, puede que la decisiA3n de algunos paAÂses de tomar medidas y regular las redes sociales influya.
Pero, comenta, tambiA©n hay obstA¡culos relevantes en el camino hacia un eventual acuerdo.
Uno es, aÂÂpor supuesto, el poder econA3mico y el interA©s de mi gobierno, Estados Unidos, especialmente el actual, que parece muy empeA±ado en proteger a las empresas tecnolA3gicas de cualquier tipo de regulaciA3n extranjera. Y otro ejemplo son muchos otros gobiernos que, creo, han empezado a darse cuenta de que no solo pueden regular las redes sociales por el bien comAon, sino que tambiA©n pueden regularlas por su propio interA©s y, por lo tanto, obligar a eliminar la informaciA3n generada por sus oponentes polAÂticos, por ejemploaÂÂ.
aÂÂA¿PodrAÂan estos esfuerzos acabar infringiendo otros derechos? Por ejemplo, la libertad de expresiA3n.
aÂÂYa lo estA¡n haciendo, y es algo que ya vemos mucho en el Consejo, que estA¡ tratando de intervenir, porque estamos recibiendo casos de diversas jurisdicciones en el mundo donde se ha eliminado contenido y los usuarios se oponen y dicen: aÂÂA¿Por quA© si esto es bueno?'aÂÂ.
El profesor ofrece el ejemplo hipotA©tico de un defensor de los derechos humanos que llama la atenciA3n sobre un problema y ese contenido es eliminado.
aÂÂCuando empecemos a explorarlo, veremos que tal vez lo eliminaron, porque Meta accediA3 a la solicitud del gobierno local de que lo eliminara. Y el gobierno local querAÂa retirarlo, porque ese defensor de los derechos humanos estaba llamando la atenciA3n sobre las polAÂticas del gobierno que no eran transparentes. Y eso estA¡ ocurriendo incluso en paAÂses democrA¡ticos, no solo en regAÂmenes autoritarios como China y Rusia. EstA¡ ocurriendo en Europa, estA¡ ocurriendo en Estados Unidos. Vimos litigios en Estados Unidos que demostraron que el gobierno habAÂa intentado hacer eso. No hay ninguna regiA3n ni paAÂs del mundo donde eso no estA© sucediendo. Eso sA que es preocupante. Sin dudaaÂÂ.
Carozza no adhiere al grupo de los que avizoran en la IA un riesgo existencial para el mundo, pero admite que hay peligros potenciales: aÂÂDesde nuestros sistemas financieros hasta nuestras redes energA©ticas, pasando por el sistema educativo, y el tejido mismo de nuestras democracias debido a la forma en que la IA puede manipular los deseos de las personas, e incluso nuestras relaciones personalesaÂÂ. La conciencia de que existe esto es aÂÂrealmente el punto de partidaaÂÂ, como para los DD.HH. lo fueron el aÂÂtrauma de las guerras mundiales, la experiencia del genocidio y la injusticia masiva, y la experiencia de un mundo que se descolonizaba y reconocAÂa la necesidad de libertadaÂÂ, sostiene.
Con esa coincidencia, plantea el acadA©mico, aÂÂlo que falta es liderazgo moralaÂÂ. aÂÂPor eso, creo, en una variedad impresionante de contextos geogrA¡ficos, religiosos y polAÂticos, cuando el Papa LeA3n XIV emitiA3 su documento en mayo (la encAÂclica Magnifica humanitas) recibiA3 tanta atenciA3naÂÂ, afirma.
aÂÂA¿EstA¡ de acuerdo con quienes dicen que debemos frenar el desarrollo de la IA?
aÂÂSAÂ, pero quiero tener cuidado en ese punto, porque es ahA donde realmente marca la diferencia, en quA© tipo de IA estamos hablando.
Porque, ademA¡s de los peligros, creo que tambiA©n es importante reconocer que existen muchAÂsimos usos muy prometedores de la IA.
Existe la inteligencia artificial que podrAÂa utilizarse para generar nuevos tipos de actividad econA3mica que proporcionen mA¡s trabajo a las personas, que permitan colaborar de nuevas maneras y que nos permitan educar a personas que no tenAÂan acceso a la educaciA3n.
Yo trabajo en el A¡mbito jurAÂdico. Por un lado, me preocupa cA3mo la IA podrAÂa desplazar el ejercicio del juicio por parte de abogados y jueces y socavar el Estado de Derecho. Pero, igualmente, veo que todas nuestras sociedades aÂÂChile, Estados Unidos y el resto del mundoa sufren y siempre han sufrido enormes desigualdades y dificultades de acceso a la justicia.
A¿Podemos utilizar la IA para abordar esas desigualdades? Creo que sAÂ.
Por lo tanto, no querrAÂa ralentizar la IA en general. Creo que serAÂa un error garrafal.
La verdadera pregunta es cA3mo podemos establecer criterios de juicio sobre cA3mo se puede usar bien y cA3mo no se debe usaraÂÂ.
El acadA©mico considera que aÂÂla cuestiA3n crucial en este momentoa es poder determinar, aÂÂen la gran mayorAÂa de los usos de la IA, A¿cuA¡les son los criterios morales que aplicaremos para determinar cA3mo y de quA© manera utilizar la tecnologAÂa, y quA© usos de la tecnologAÂa queremos intentar evitar, bloquear o controlar?aÂÂ.
aÂÂA¿Se sitAoa usted en el lado optimista o pesimista de este debate?
aÂÂEsa es una buena pregunta. He visto y aprendido, tanto en mAÂ mismo como con mis alumnos, que es posible utilizar las herramientas de IA de maneras muy Aotiles que mejoran la capacidad de conocimiento y juicio, en lugar de desplazarla o suprimirla. De hecho, si se hace de una manera cuidadosa y reflexiva, puede ser realmente Aotil para hacer todo tipo de cosas que antes no eran posibles y generar cosas nuevas.
Pero tambiA©n me he dado cuenta de que requiere mucho cuidado (a¦)
Mi pesimismo se debe a que creo que prestamos demasiada atenciA3n a lo que podemos hacer con la IA y no la suficiente a lo que la IA nos hace cuando la usamos.
Porque cuando la usamos nos transforma, como cualquier otra herramienta.
EmpecA© a usar hace aA±os un GPS para desplazarme y ahora tengo problemas (si no lo uso). Cuando la gente empezA3 a leer, cuando se creA3 la imprenta, dejA3 de aprender cA3mo contarse historias unos a otros.
Es decir, nos va a cambiar y no prestamos suficiente atenciA3n a cA3mo nos estA¡ cambiando cuando la usamos.
Y dirAÂa que, en particular, el A¡rea que mA¡s me preocupa en ese sentido, donde soy muy, muy pesimista sobre el impacto que estA¡ teniendo, es en la calidad de las relaciones humanas.
Para mAÂ, nunca deberAÂa haber terapeutas de IA, nunca deberAÂa haber novias de IA. Los adolescentes nunca deberAÂan hablar con el chatbot sobre sus problemas personalesaÂÂ.
Copyright Grupo de Diarios AmA©rica - GDA/El Mercurio/Chile Todos los derechos reservados. Prohibido su uso o reproducciA3n en Chile