tEste verano me encontré luchando con el tráfico en las sofocantes calles de Marsella. En un cruce de ferrocarril, mi amigo en el asiento del pasajero me dijo que girara a la derecha hacia un lugar conocido por su sopa de pescado. Pero la aplicación de navegación Waze nos pidió que siguiéramos derecho. Cansado y con el Renault como una sauna sobre ruedas, seguí el consejo de Waze. Momentos después, estábamos atrapados en un sitio de construcción.
Un momento trivial, tal vez. Pero quizás refleje la pregunta definitoria de nuestros tiempos, en los que la tecnología toca casi todos los aspectos de nuestras vidas: ¿en quién confiamos más: en otros seres humanos y en nuestros propios instintos, o en la máquina?
El filósofo alemán Immanuel Kant famosa definición de la Ilustración como “la salida del hombre de la inmadurez que se ha impuesto a sí mismo”. La inmadurez, escribe, “es la incapacidad de utilizar el propio entendimiento sin la ayuda de otro”. Durante siglos, este “otro” que gobernaba el pensamiento y la vida humanos era a menudo el sacerdote, el monarca o el señor feudal, aquellos que afirmaban actuar como la voz de Dios en la Tierra. Al tratar de comprender los fenómenos naturales (por qué los volcanes entran en erupción, por qué cambian las estaciones), los humanos han recurrido a Dios en busca de respuestas. Al dar forma al mundo social, desde la economía hasta el amor, la religión nos ha servido de guía.
Según Kant, el ser humano siempre ha tenido la capacidad de razonar. Simplemente no siempre habían tenido la confianza para usarlo. Pero con las revoluciones americana y francesa se abrió una nueva era: la razón reemplazaría a la fe y el espíritu humano, liberado de toda autoridad, se convertiría en el motor del progreso y de un mundo más moral. “El zapador oye! o “¡Ten el coraje de utilizar tu propio entendimiento!” », exhortó Kant a sus contemporáneos.
Dos siglos y medio después, podemos preguntarnos si no estamos volviendo lentamente a la inmadurez. Una aplicación que nos diga qué ruta tomar es una cosa. Pero la inteligencia artificial amenaza con convertirse en nuestro nuevo “otro”, una autoridad silenciosa que guía nuestros pensamientos y acciones. Corremos el riesgo de ceder el coraje que tanto nos costó ganar para pensar por nosotros mismos, y esta vez, no ante dioses o reyes, sino ante el código.
ChatGPT se lanzó hace solo tres años y una encuesta global, publicada en abril, encontró que El 82% de los encuestados ha utilizado IA durante los seis meses anteriores. Ya sea para decidir si poner fin a una relación o por quién votar, la gente recurre a las máquinas en busca de consejo. Según OpenAI, el 73% de las solicitudes de los usuarios se refieren a temas no relacionados con el trabajo. Aún más intrigante que nuestra dependencia del juicio de la IA en la vida cotidiana es lo que sucede cuando dejamos que ella hable por nosotros. Escribir es ahora uno de los usos más comunes de ChatGPT, justo detrás de solicitudes prácticas como bricolaje o consejos de cocina. El autor americano Joan Didion dijo una vez: “Escribo enteramente para saber lo que pienso”. ¿Qué pasa cuando dejamos de escribir? ¿Dejamos de enterarnos?
Lo preocupante es que algunos datos sugieren que la respuesta puede ser sí. Un estudio del Instituto de Tecnología de Massachusetts utilizó electroencefalografía (EEG) para monitorear actividad cerebral de los escritores de ensayos tener acceso a IA, motores de búsqueda como Google o nada en absoluto. Aquellos que podían confiar en la IA tenían la actividad cognitiva más baja y tenían dificultades para citar con precisión su trabajo. Quizás lo más preocupante es que, en el transcurso de unos meses, los participantes del grupo de IA se volvieron cada vez más perezosos y copiaban bloques enteros de texto en sus ensayos.
El estudio es limitado e imperfecto, pero Kant habría reconocido el patrón. “La pereza y la cobardía”, escribe, “son las razones por las que una proporción tan grande de hombres… permanecen en la inmadurez toda su vida, y por las que es tan fácil para otros establecerse como sus guardianes. Es muy fácil ser inmaduro”.
Por supuesto, el atractivo de la IA reside en su conveniencia. Esto ahorra tiempo, esfuerzo y, lo más importante, ofrece una nueva forma de descargar responsabilidades. En su libro de 1941, Escape from Freedom, el psicoanalista alemán Erich Fromm argumentó que el ascenso del fascismo podría explicarse en parte por el hecho de que la gente prefería renunciar a su libertad a cambio de la certeza tranquilizadora de la subordinación. La IA ofrece una nueva forma de liberarse de la carga de tener que pensar y decidir por sí mismo.
El mayor atractivo de la IA es que puede hacer cosas que nuestra mente no puede: examinar océanos de datos y procesarlos a una velocidad sin precedentes. Después de todo, sentarme en el coche en Marsella fue la razón por la que elegí confiar en la máquina en lugar de en mi amiga sentada en el asiento del pasajero (una decisión que ella tomó como un insulto). Con acceso a todos los datos, seguramente la aplicación debe ser la más informada – o eso pensé.
El problema es que la IA es una caja negra. Produce conocimiento, pero sin necesariamente profundizar la comprensión humana. Realmente no sabemos cómo llega la IA a sus conclusiones; incluso los programadores lo admiten. Tampoco podemos cotejar su razonamiento con criterios claros y objetivos. Entonces, cuando seguimos los consejos de la IA, no nos guiamos por la razón. Estamos de vuelta en el reino de la fe. En duda pro máquina: En caso de duda, confíe en la máquina; este podría convertirse en nuestro principio rector en el futuro.
La IA puede ser un gran aliado para los humanos en la investigación racional. Puede ayudarnos a inventar medicamentos, liberarnos de “trabajos estúpidos” o pagar nuestros impuestos, tareas que requieren poca reflexión y ofrecen poca satisfacción. Mucho mejor. Pero Kant y sus contemporáneos no defendieron la razón sobre la fe simplemente para que los humanos pudieran construir mejores estanterías o tener más tiempo libre. El pensamiento crítico no se trataba sólo de eficiencia: era una práctica de libertad y emancipación humana.
El pensamiento humano es confuso y está lleno de errores, pero nos obliga a debatir, a dudar, a comparar ideas entre sí y a reconocer los límites de nuestra propia comprensión. Esto genera confianza, tanto individual como colectivamente. Para Kant, el ejercicio de la razón nunca fue sólo una cuestión de conocimiento; se trataba de permitir que las personas se convirtieran en actores de sus propias vidas y resistieran la dominación. Se trataba de construir una comunidad moral basada en el principio común de la razón y el debate, en lugar de una creencia ciega.
Con todos los beneficios que aporta la IA, el desafío es: ¿cómo podemos aprovechar su promesa de inteligencia sobrehumana sin erosionar el razonamiento humano, la piedra angular de la Ilustración y la propia democracia liberal? Ésta es quizás una de las cuestiones definitorias del siglo XXI. Ésta es una tarea que haríamos bien en no delegar en la máquina.
