Publicidad en podcasts en: Filosofía Iluminante

¿Estamos perdiendo el control de nuestra propia manera de pensar? En este episodio yo exploro cómo la inteligencia artificial y los algoritmos pueden reforzar nuestros prejuicios, distorsionar nuestra percepción de la verdad y debilitar la democracia. ¿Cómo podemos alinear la IA con los valores humanos de la verdad y la justicia si nosotros mismos estamos perdiendo el pensamiento crítico y la capacidad de cuestionar nuestras propias creencias? Aquí reside el verdadero problema.

En este episodio, exploramos si el utilitarismo —la teoría ética que busca maximizar la felicidad y minimizar el sufrimiento— podría ofrecer una brújula moral para la inteligencia artificial. Tras analizar las limitaciones de la deontología kantiana tratadas en el episodio anterior, nos centramos en Jeremy Bentham y John Stuart Mill, y nos planteamos si un sistema de IA podría calcular de manera realista la felicidad y el sufrimiento derivados de sus acciones. A través de ejemplos que abarcan desde el genocidio y la discriminación hasta la criminalización de la homosexualidad, el matrimonio interracial, la guerra y el sufrimiento provocado por la pandemia, descubrimos la dificultad de cuantificar el bienestar humano. También examinamos el peligro de justificar un sufrimiento atroz en el presente en nombre de una utopía futura imaginaria. El episodio concluye que ni las normas morales absolutas ni los cálculos matemáticos de felicidad y sufrimiento parecen suficientes para alinear la IA con los valores humanos. Quizás, como exploraremos en futuros episodios, hayamos estado buscando la solución en el lugar equivocado.

Usa tu poder y paciencia mental para escuchar este episodio. En este episodio abordo uno de los problemas fundamentales del futuro de la inteligencia artificial: ¿cómo podemos ajustar una inteligencia inorgánica a los valores humanos? Parto de los riesgos de una IA cada vez más autónoma y de cómo ya está transformando nuestra manera de escribir, estudiar, trabajar y tomar decisiones. Luego entro en el terreno de la filosofía para explorar el problema del alineamiento, la Regla de Oro, la deontología de Kant y el utilitarismo. La pregunta central es inquietante: si los propios seres humanos nunca hemos logrado ponernos de acuerdo sobre cuáles son nuestros valores universales, ¿cómo podemos enseñárselos a una inteligencia que no comparte nuestra naturaleza, nuestras emociones ni nuestra capacidad de sufrir?

Millones de programas, de agentes, de Inteligencia Artificial que pueden escribir poemas de amor mejor que nosotros, que pueden mentir mejor que nosotros, y que pueden viajar a la velocidad de la luz sin ninguna necesidad de adquirir visas de entrada constituyen los nuevos inmigrantes indocumentados en el mundo. Los que están en contra de los inmigrantes básicamente dicen que los inmigrantes aquí en USA y en Europa vienen a quitarles trabajos a los nativos, que vienen a cambiar la cultura de los nativos del país, y que uno nunca sabe donde yacen sus alianzas políticas. Por supuesto que esto no es cierto acerca de todos los inmigrantes, pero por seguro que sí va a ser cierto con los inmigrantes no humanos, esos programas hechos de IA. La IA sí le va a quitar trabajos a la gente, sí va a cambiar la cultura de cada país, sí va a cambiar la religión, y el romance de amor. Esta es la nueva crisis social.

No hay ninguna duda que estamos en medio del surgimiento de un tipo completamente nuevo de red de información, controlado por las decisiones y los objetivos de una inteligencia desconocida, no humana. Pero, en la actualidad, en estos momentos precisos, aún nosotros los seres humanos desempeñamos un papel central en esta red. Pero puede que poco a poco nos veamos desplazados a los márgenes y, en último término, incluso puede que la red llegue a operar sin nosotros. Pero tenemos que definir la que es inteligencia y lo que es conciencia. Aunque no sientan dolor, amor o miedo, las computadoras con inteligencia artificial  pero sin conciencia son capaces de tomar decisiones que consiguen mantener la atención y el involucramiento del usuario

En este episodio ya comenzamos a entrar de lleno al campo de la inteligencia artificial per se, propiamente dicha, y su impacto en nuestras vidas. Defino lo que es la Inteligencia Artificial más específicamente. Fundamentalmente podemos enumerar algunas características que le pertenecen solamente a la inteligencia artificial. La IA es un agente, ¿qué quiere decir esto de agente? Ser un agente, es poder cambiar y aprender por sí sola y tomar decisiones por ella misma. Otra característica de la IA es que puede ser muy creativa. Una tercera característica de la IA, sorprende, pero es cierto, puede mentir y manipular. Esto suscita otra gran pregunta ¿La AI de verdad puede pensar como nosotros? Bueno todo depende como definimos la capacidad de pensar. En cuanto poner palabras en orden lógico, en ese sentido de pensar, podemos argumentar que la IA ya piensa mejor que nosotros. ¿tendrán los seres humanos un lugar en este nuevo mundo?

La democracia y la dictadura no se diferencian solamente por la manera en que eligen a sus gobernantes, sino por la forma en que organizan el flujo de información y corrigen sus errores. Las democracias sobreviven mientras exista una conversación libre entre ciudadanos capaces de cuestionar al poder, acceder a información confiable y defender instituciones independientes; las dictaduras, en cambio, prosperan cuando el miedo, la propaganda y la centralización silencian esa conversación. En la era de la Inteligencia Artificial, esta diferencia será aún más decisiva, porque las nuevas tecnologías podrán fortalecer tanto la libertad como el control absoluto. Por eso, el verdadero desafío del futuro no será únicamente tecnológico, sino profundamente humano: preservar la capacidad de pensar críticamente, escuchar al otro y proteger los mecanismos de autocorrección que hacen posible la búsqueda colectiva de la verdad.

Este episodio argumenta que la auto-corrección estructural de las instituciones científicas ha hecho que éstas perduren y mantengan una influencia mundial desde su surgimiento durante la revolución científica de los siglos XVI y XVII. Se contrasta esta postura científica con las abrigadas por otras instituciones como es la Iglesia católica y agencias e institutos que han pasado a ser víctimas de la influencia política y pierden sus mecanismos de autocorrección para llegar a ser una legitimación del poder autocrático de sus gobiernos políticos.   Las instituciones que perduran a través del tiempo son esas que mantienen su independencia política y buscan un camino hacia la verdad aunque esta perturbe a veces el control social, aunque algunas veces es necesario el control social a expensas de la verdad.

Continuamos nuestra discusión sobre el libro Nexus, de Yuval Noah Harari. En este episodio continuamos con el tema de la imposibilidad de alcanzar la infalibilidad de la información tomando como ejemplo al Nuevo Testamento de la Biblia. El surgimiento del Nuevo Testamento dio forma a una nueva institución encargada de preservar y regular su interpretación, en continuidad con lo que ya había ocurrido con el afán que los judíos tenían en preservar la legitimidad de sus interpretaciones a través de los rabinos, fortaleciendo la institución rabínica. En el caso del Nuevo Testamento, sin embargo, su nueva institución alcanzó un grado de poder mucho mayor: no solo controlaba la publicación de los textos sagrados y su interpretación sino también el ambiente político. Desde esa posición, deslegitimó como heréticas las interpretaciones disidentes provenientes de librepensadores, y recurrió en ocasiones a la violencia —presentada bajo el ropaje de la virtud y el propósito de querer salvar almas del infierno— como medio para consolidar su autoridad y preservar sus intereses materiales.

Continuamos nuestra discusión acerca del libro NEXUS por Yuval Noah Harari. En este episodio lo imposible que es alcanzar infalibilidad de la información. Tomo como ejemplo el proceso histórico que los libros sagrados del judaísmo han experimentado para asegurarse que su información dada por Dios no se corrompa por los humanos propensos al error. El libro fue un gran invento para alcanzar eso, pero resultó ser fútil puesto que encontraron problemas de errores en las copias y en la interpretación de los libros sagrados. El resultado fue la creación de un sistema de rabinos que mantengan la interpretación apropiada basada en la tradición e interpretación de grandes sabios.

Continuamos nuestra discusión acerca del libro NEXUS por Yuval Noah Harari. En este episodio se describen los orígenes de la burocracia, su orígen, función y efectos negativos en nuestras sociedades. La burocracia sacrifica la verdad en aras del orden que le pone a la realidad objetiva creando categorías de información para poder recuperar ágilmente documentos de sus archivos. Describo también el impacto negativo que la burocracia tiene en nuestras vidas dado que el poder se concentra en la burocracia ignorando al pueblo. El resultado es que las redes que creamos tienen que ver con humanos relacionándose con otros humanos, humanos contactándose con documentos, y documentos relacionándose entre ellos mezclados con Inteligencia Artificial.

Este episodio es una continuación de nuestra discusión acerca del libro NEXUS escrito por Yuval Noah Harari. En este episodio se describe el dilema que existe acerca de la información en la sociedad. La información busca la verdad dentro de un sistema social con un orden y control ya establecidos, casi siempre bajo el mando de un líder, bueno o malo. El dilema existe entre la búsqueda de la verdad y el mantener el orden social. Menciono varios ejemplos en nuestras sociedades en la historia y presentes donde frecuentemente la verdad cede a las órdenes del sistema político para mantener su control. En la segunda parte del episodio doy una reseña histórica de la aparición de los documentos escritos y su representación de la realidad. Los documentos llegan a convertirse en la realidad misma. Doy ejemplos históricos como son las tablillas de arcilla usadas como documentos en Ur, Asiria unos 2000 años antes de Cristo y otros ejemplos concernientes a la propiedad privada.

Esta es la Parte-2a del resumen y análisis del libro NEXUS, escrito por Yuval Noah Harari, historiador y filósofo. El papel más importante que juega la información es el de crear CONEXIONES entre seres humanos. Se proveen numerosos ejemplos para entender este punto, unos tienen que ver con el arte y la música, otros con el ADN, y otros como la creación de la bomba atómica. Además se enumeran tres tipos de realidad: objetiva, subjetiva, e intersubjetiva. La realidad Intersubjetiva es la más poderosa en términos de crear nuevas realidades compartidas entre los seres humanos como son el dinero, las leyes, las corporaciones, la religión, etc. Además, se discute que el crear un orden y alguien que lo mantenga también es necesario para que la información, el relato, la leyenda, tenga su efectividad. La información por ella misma no conduce a la verdad. Por último, se concluye que no podemos decir que toda información o bien conlleva a la verdad o a la mentira. Hay un término medio. Contar un relato ficticio solo es mentir cuando se insiste o se dice que ese relato es una representación veraz de la realidad. El papel principal de los relatos, de la información, de los cuentos es el de conectarnos.

Esta es la Parte-2 del resumen y análisis del libro NEXUS, escrito por Yuval Noah Harari, historiador y filósofo. Cualquier objeto puede ser información. Se relatan eventos históricos para ilustrar este concepto. Uno es el del Batallón Perdido y la paloma mensajera Cher Ami en la Primera Guerra Mundial. Otro tiene que ver con las batalles entre los ingleses y los otomanos en el medio oriente. Ademas, discuto lo que se entiende por "Realidad" y su correspondencia con la Información y la "Verdad".

Esta es la Parte-1a del resumen y análisis del libro NEXUS, escrito por Yuval Noah Harari, historiador y filósofo. Discutimos la definición populista de la información, que la trata como un arma para adquirir poder y sospecha toda Información proveniente de las elites sociales porque estas en realidad no quieren perder su posición y lo que hacen es diseminar puras ideas falsas llenando el ambiente social con desinformación. El líder populista es el único que desenmascara las mentiras de las elites y alerta al pueblo de las intrigas del Estado Paralelo. Además, Harari apunta que el peligro más grande para los seres humanos en este momento es el invento de la Inteligencia Artificial como un agente creador que puede por sí mismo controlar a todos los seres humanos, ya sean estos populistas o no.