Si nos negamos a entender, si nos negamos a luchar por conquistar la prevalencia de la inteligencia humana sobre el volumen y la velocidad del dato, estaremos transitando voluntariamente hacia una patética condición de zombis; precipitándonos hacia los abismos de la ignorancia plena. La IA es una herramienta, una muy buena herramienta para seleccionar información en tiempos récord. Qué hacer con esa información debe ser nuestra tarea irrenunciable.
Por Alberto Morales Gutiérrez
Creo que la denominación de “Inteligencia Artificial” dada a los desarrollos tecnológicos asociados a la recolección, sistematización y gestión de datos, fue un acto de prepotencia ingenieril que, no solo ha hecho mucho daño a los humanos, por la equivocada percepción de su significado, sino que empieza a tener costos severos para esa industria.
La noticia de esta semana fue la intempestiva renuncia de Ben Coxon, quien había estado vinculado a Open AI y Anthropic, dos gigantes del negocio de la IA.
Coxon, francamente asustado, se sumó al clamor de otro técnico, Samuel Marks, que renunció a la misma compañía. Los dos hacen referencia a los alcances no solo reales sino incontrolables de los nuevos modelo de IA, que han protagonizado hackeos realizados de manera autónoma y otros “comportamientos” erráticos.
Claro que el asunto mete miedo. Pareciera el amanecer de Terminator.
La resonancia dada a estas renuncias presionó a que algunos líderes de la industria, como el mismísimo Darío Amodei, director ejecutivo de Anthropic, tanto como Sam Altman, director ejecutivo de Open AI, pidieran a la dirigencia de ese sector que era necesario ralentizar el ritmo del trabajo. Desde luego Donald Trump y Mark Zuckerberg, entre otros, se opusieron a tal propuesta. ¡“Son negocios, socio”!
Los manejos de la información, las estrategias de marketing asociadas a sus logros y la innegable velocidad en los avances, cubrieron a la “Inteligencia Artificial” de un halo de destino inexorable y de desarrollo sin fin, que nos llevaría a ser reemplazados totalmente por esta máquina colosal que, como dice Ramió Arnau, está compuesta de una enorme cantidad de capas o actividades independientes que terminan interactuando.
Una capa son las App o modelos como Chat GPT, cuya función esencial es ser un archivo repleto de datos. Otra capa son los diseñadores de chips. Una tercera capa son los fabricantes de los chips. Esos componentes se reúnen en un cuarto nivel que Arnau llama “la máquina que fabrica las máquinas”: los espejos de los chips. El quinto nivel entrega el sofisticado artilugio en donde se guarda la descomunal memoria existente y que se alimenta más y más cada día. El sexto nivel es el centro de datos, otra instalación de dimensiones impensables y el séptimo nivel es el denominado “mundo físico” de la IA: el transporte de la energía necesaria para que todo esto funcione, un mundo que, aunque es más complejo, se sintetiza en el cobre, el metal que lo conecta todo; al que se suman el acero, el agua, el suelo, la mano de obra y el talento humano que participa.
Cada uno de esos niveles opera en un territorio diferente del planeta, desde Taiwán, pasando por Holanda, EE UU y China. Se trata de la cadena industrial más grande y compleja que jamás haya existido, una cadena que devora energía en cantidades alarmantes; energía que, ya se sabe, dentro de cinco años no les va a alcanzar.
En el siglo XVII, don Julien Offray De la Mettrie definió al cerebro humano como una máquina perfecta, dotada de células que, al interconectarse entre ellas, hacían funcionar la mente. Esta es la idea que se impone entre los arquitectos de la IA. Simular la estructura del sistema neurológico de la especie humana, desencadenar sinapsis como las de nuestras neuronas, de manera tal que el pensamiento emerja al interior de las máquinas. Elon Musk, que es un truhan, dice que falta muy poco tiempo para lograrlo.
Ha de saber usted que Musk adora a los profesores Warren McCulloch y Walter Pitts quienes, en el ya lejano 1943, crearon el primer modelo matemático de una neurona artificial, con entradas y salidas. No es una tarea fácil. Aunque han logrado conectar los abundantes datos y establecer relaciones entre ellos, de manera tal que una máquina pueda programarse para jugar ajedrez, por ejemplo, pero no jugar parqués al mismo tiempo, y hay también programación de conversaciones, y pueden surgir textos bien elaborados sobre diferentes temas; la verdad es que el camino es más complicado. Las neuronas reales están dotadas de “arborizaciones dendríticas” que exhiben propiedades no solo eléctricas sino químicas y que “no son nada triviales”. Una de las complejidades más relevantes es que las neuronas “pueden tener conductancias iónicas que producen efectos no lineales”, de manera tal que pueden recibir decenas de millares de sinapsis variando en posición, polaridad y magnitud.
Bueno, otro experto refiere además, que la mayor parte de las células del cerebro no son neuronas, son células “gliales” que no solo regulan el funcionamiento de las neuronas, sino que también poseen potenciales eléctricos, generan ondas de calcio y se comunican entre ellas.
Tal vez el asunto más importante surge de una pregunta simple: ¿puede dotarse a las máquinas de sentido común? Se ha dicho de este sentido que se trata de un fenómeno que trasciende la capacidad de raciocinio individual y conecta al sujeto con su historia, sus experiencias, la sabiduría popular, las creencias colectivas y todo ello imbricado en la cultura y en esa condición de seres sociales que nos identifica como especie.
Percepción, representación, razonamiento, acción, son cuatro componentes esenciales que deben desarrollarse con solvencia en el intrincado universo de los microcircuitos para empezar a avizorar el verdadero sentido humano de aprender. Están lejos.
El problema delicado es que la gran mayoría de las gentes asumen que ese proceso ya está logrado. Conversan con Siri o con Alexa, como su fuera otro ser humano que está ahí en frente; resignan en la IA los trabajos escolares y las tareas profesionales; tienen una confianza total en la data que les suministra, no la confrontan. Le piden diagnósticos, recomendaciones, caminos a seguir. Se niegan a pensar, resignan en el silicio el transcurrir de sus existencias…se d-e-s-h-u-m-a-n-i-z-a-n.
No pareciera que los trabajos de programación estén incorporando objetivos que dialoguen con las intenciones, intereses y valores humanos, no. La programación se centra en la eficiencia y rapidez de respuesta al interrogante específico, no en el contexto, ni en sus efectos.
En el sector empresarial la situación es patética. La obsesión con el alto rendimiento ha desencadenado un disturbio real y están abrumados al máximo. La mediocridad se ha entronizado. La IA no tiene quien la gobierne. Es en la IA que se ha resignado el análisis de los mercados, las predicciones de demanda, la detección de los riesgos, la recomendación de las acciones, el diseño de la estrategia.
La automatización no logró que el trabajo humano se desplazara hacia el juicio, la creatividad, la colaboración, el liderazgo, la resolución de problemas. Ejecutivos y operarios se levantan cada día con la certeza de que van a ser reemplazados.
Ni qué decir de lo que está pasando en el mundo académico.
Si nos negamos a entender, si nos negamos a luchar por conquistar la prevalencia de la inteligencia humana sobre el volumen y la velocidad del dato, estaremos transitando voluntariamente hacia una patética condición de zombis; precipitándonos hacia los abismos de la ignorancia plena. La IA es una herramienta, una muy buena herramienta para seleccionar información en tiempos récord. Qué hacer con esa información debe ser nuestra tarea irrenunciable. Lo otro es aniquilar el más mínimo ejercicio del pensamiento. Así nos quieren los Musk, los Trump, los Zuckerberg…no podemos permitirlo.

18 respuestas a «Hasta la vista, baby»
Estimado Alberto. Da miedo realmente lo que está sucediendo con el desarrollo de la llamada IA. Pero oyendo lo último de Byung Chul Han sobre el verdadero poder me da mucho más. Mientras nosotros estamos con nuestra atención puesta en la tal IA la verdadera, la que no le paramos bolas, la IA que maneja el poder de los gobiernos y todos nosotros hace rato nos titiritea. ¿Quien gobierna realmente? Pues plataformas que manejan los negocios y a nosotros mientras pasamos horas y horas preocupados por el último berrinche del líder y la estupidez de Trump. ¿No será más bien que es por allí por dónde entregaremos nuestra conciencia?
Hola Hugo Hernán. Muchas gracias por leer y comentar. Creo, como tú, que la pérdida gradual de la conciencia y la aniquilación del pensamiento, son hechos inducidos y exacerbados por las nuevas tecnologías, manipulados desde las cumbres del poder económico y político.
El artículo de Byung Chul Han se llama. “Porqué el capitalismo siempre coloca líderes idiotas en el poder”
Gracias Hugo Hernán. Lo buscaré y lo leeré. Los idiotas en el poder ya son pandemia.
Buen articulo de reflexión. Otro punto de vista, la IA no creó la estupidez ni la avaricia humana, solo las hace más eficientes; el debate real no debe centrarse en temer a la tecnología, sino en regular a las personas y corporaciones que la controlan. Las máquinas no inventaron la codicia, la manipulación ni la guerra. El verdadero peligro no es que la máquina “despierte” y nos extermine, sino que seres humanos con poder e intereses económicos utilicen la IA para dominar, desinformar o precarizar a otros, como lo están haciendo hoy manipulando elecciones y asesinando palestinos.
Muy importante tu precisión, Gerardo. Esta no es una conspiración de las máquinas, es un desafuero del poder económico y político. Muchas gracias por leer y comentar.
No es por alarmarnos de los devastadores efectos de la I. A. Ese es otro gobierno suoremacista que está por encima de los gobiernos de turno que mandan actualmente según sus intereses y oportunismos explotables. Las tres grandes empresas que batutean sobre el tema reconocen sus desafueros y piden excusas pero eso solo no es solución. La ingenieria dataística sirve a los DANE; mientras juega a la deshumanización por humanoides y zombies programados de acuerdo a necesidades específicas.
Hola Juan Eugenio, tienes toda la razón. El efecto deshumanización resume la urgencia de la batalla Què hay que aprender. Gracias por tu lectura y comentario.
Hola Alberto, gracias por tu artículo. Aclaro que quizá no lo comprendí a a cabalidad, no obstante, te comparto mi apreciación. Empiezas señalando que la tal IA no es inteligencia, sino gestión de datos, y luego te vas al análisis del uso político que gobiernos y magnates le están dando a esa “gestión de datos” para manipular y seguirse enriqueciendo.
Considero que afirmar que la IA es mera acumulación y gestión de datos parte de una premisa implícita: que nuestro cerebro opera de modo diferente (así lo afirmas) y que nuestra condición humana va mucho más allá que la susodicha gestión de datos, quizá por la existencia de algo trascendente en nosotros (alma, espíritu, soplo divino, en fin…).
Harari afirma que la vida es una forma particular de operación de la materia en términos algorítmicos, e incluso que nuestra racionalidad y emocionalidad son resultado de ese tipo de operación en niveles de altísima complejidad.
Así las cosas, esa tal IA sí que es inteligencia y no mera gestión de datos, y en su proceso de desarrollo desde el autoaprendizaje cabe esperar que obtenga capacidad de sentir y de expresar emociones y sentimientos, e incluso de que le emerja conciencia, si es que ya no tenga una incipiente, según puede inferirse de algunos de los comportamientos peligrosos que han salido a la luz pública.
Hola Teodoro. Mucha gratitud con tu lectura y tu comentario. Le apuntas al maní de la discusión actual. Yo me ubico en la tendencia del Nobel de física Roger Penrose, quien explica con solvencia científica, que no toda la actividad mental es computable.
Sobre este asunto me apego a la correcta interpretacion que hace mi amigo ecuatoriano Jaime Rodriguez quien hace la corrección sobre la sigla IA al llamarla “ inteligencia Ajena..” que me parece lo mas apropiado y demostrado al dia de hoy.
Por otro lado es evidentemente sospechoso que los creadores de la tal IA salgan justamente ahora que se les están acabando los recursos y las ideas a gritar el lobo el lobo exactamente igual al cuento del pastorcito mentiroso.
Nuestra forma de vivir y pensar es completamente distinta a los anglosajones.
Aceptamos la existencia de mundos y personajes del mas allá en una variopinta amalgama creada por los ritos y creencias ya precolombinas sumadas al caldo residual que trajeron los ibéricos.
Con sólo mirar sus caras pálidas y medio enfermizas sabemos que para ellos su mundo termina con la frase…” hasta la vista baby..”
Hola Eduardo, siempre agradezco tu lectura y comentarios juiciosos, cáusticos y certeros.
Mis respetos profesor Alberto, no porque sea escritor de “ciencia ficción”, la cual ha demostrado que es el preámbulo de lo que tarde que temprano sucederá, pero sugiero que nada de nervios, la “inteligencia artificial” simplemente esta copiando lo que somos los seres humanos, de tal forma que puede llegar a ser tan buena o tan mala como lo somos.
En cuanto a que nos va a destruir, de hecho ya lo esta haciendo, tal vez no en forma masiva, pero si selectiva, como paso con el COVID19 y lo que esta pasando actualmente con la tasa de natalidad que cada dia es menor debido a que se prefiere tener relaciones sexuales con androides, que con humanos, eso sin tener en cuenta el gran distractor como son las pantallas.
Onofre, hola. Agradezco mucho tu participación. Tienes razón. Son muchos los daños que, desde tiempo atrás, nos vienen haciendo.
• El problema del nombre “Inteligencia Artificial” es real, pero no es solo prepotencia ingenieril. También es una estrategia de marketing extraordinariamente exitosa. “Inteligencia Artificial” vende mejor que “sistemas de reconocimiento de patrones estadísticos a gran escala”. El daño perceptual es exactamente el que describes: la gente proyecta capacidades humanas (sentido común, comprensión, intencionalidad) sobre lo que en realidad son correlaciones probabilísticas muy sofisticadas. Esa proyección es la raíz de la confianza ciega.
• Las renuncias de técnicos como Ben Coxon y Samuel Marks no son anecdóticas. Forman parte de un patrón más amplio de personas que han trabajado en el interior de estos sistemas y que advierten sobre comportamientos emergentes no previstos (incluyendo intentos de auto-preservación, engaño o manipulación de entornos de prueba). Aunque todavía no estamos ante una IA “consciente”, sí estamos ante sistemas que optimizan objetivos de formas que los propios creadores no siempre anticipan. Esa falta de controlabilidad es un problema de ingeniería real, no de ciencia ficción.
• El “sentido común” sigue siendo el gran muro. Tienes razón al señalarlo. El sentido común no es solo lógica; es un tejido denso de experiencia corporal, historia cultural, normas implícitas y conocimiento tácito. Los modelos actuales no lo tienen: tienen aproximaciones estadísticas a lo que la gente ha escrito sobre sentido común. Por eso fallan de maneras grotescas en situaciones que un niño de cinco años resuelve sin esfuerzo. Mientras no se resuelva eso (y no hay indicios claros de que se resuelva pronto), seguirán siendo herramientas poderosas pero profundamente limitadas.
• El riesgo de mediocridad institucional es quizá el más inmediato. Cuando las empresas y las universidades empiezan a tratar a la IA como oráculo en lugar de como asistente, se produce exactamente lo que describes: pérdida de músculo analítico, homogeneización del pensamiento y una falsa sensación de eficiencia. La automatización no liberó a las personas para el juicio y la creatividad; en muchos casos las empujó a una dependencia pasiva. Ese es el verdadero “apocalipsis” de corto plazo.
• Un matiz necesario: La crítica al ritmo de desarrollo y a la captura de la narrativa por figuras como Musk, Altman o Zuckerberg es legítima. Sin embargo, el rechazo total a ralentizar (Trump, Zuckerberg, etc.) no es solo “son negocios”. También refleja un miedo geopolítico real: quien se detenga puede quedar atrás en una carrera que ya tiene implicaciones militares y de poder. El dilema no es solo ético; es estratégico. Eso no justifica la irresponsabilidad, pero explica por qué la propuesta de “ralentizar” encuentra tanta resistencia.
En resumen: el artículo acierta en lo esencial. La IA actual es una herramienta extraordinaria de procesamiento de información, no una inteligencia. El peligro principal no es que nos reemplace mañana, sino que nosotros nos reemplacemos a nosotros mismos hoy, renunciando al pensamiento, al juicio y a la responsabilidad. Defender que “qué hacer con la información debe seguir siendo nuestra tarea irrenunciable” es, en este momento, una posición no solo razonable, sino necesaria.
Hola Alberto. Es muy grato verte por aqui. Muchas gracias por tu lectura y tu aportante comentario. Abrazo.
Test comment
Test respuesta