Introducción

Desde los inicios de la psicología, se ha buscado el análisis de los procesos cognitivos y su medición. La psicología, desde su concepción, ha mostrado un interés constante en evaluar los procesos mentales con el fin de determinar las habilidades de los individuos. Inicialmente, esta búsqueda se utilizó para legitimar la percepción de la “superioridad” de la raza “blanca” sobre otras, dando así origen al estudio de la inteligencia como un constructo psicológico cuantificable. El primer instrumento desarrollado con este propósito fue el Test Binet-Simon, el cual se difundió ampliamente en Europa y Estados Unidos. Posteriormente, ante las críticas surgidas en torno a esta prueba, se elaboró la Escala Wechsler, la cual ha sido ampliamente adoptada a nivel mundial. El objetivo principal de este artículo es poner de manifiesto el papel ideológico de la “inteligencia” artificial.

Los creadores de la Escala Wechsler definen la inteligencia como “la capacidad global de una persona para actuar con determinación, pensar racionalmente y enfrentarse eficazmente a su entorno” (Wechsler, 1938). A pesar de esta definición, no existe consenso en la conceptualización de la inteligencia, lo que ha dado lugar a diversos enfoques como las teorías de inteligencias múltiples e inteligencia emocional. La Asociación de Psicología de Estados Unidos (APA) propone una definición que destaca la capacidad para comprender ideas complejas, adaptarse y reflexionar ( APA Task force report, 2006). En la actualidad, el neurocientífico Jeff Hawkins postula que la inteligencia reside en el neocórtex, las áreas más evolucionadas del sistema cerebral. Hawkins define la inteligencia como la capacidad de comprender el mundo, observar su entorno, identificar las formas de los objetos y entender el comportamiento (Hawkins, 2021).

Las neurociencias sostienen que el cerebro humano adquiere conocimiento sobre el mundo a través de la observación y la percepción sensorial. De este proceso emergen dos principios fundamentales. El primero establece que los pensamientos, ideas y percepciones son manifestaciones de actividades neuronales. El segundo principio postula que todo el conocimiento del individuo se encuentra almacenado en las conexiones neuronales, las cuales se fortalecen mediante la adquisición de nuevos aprendizajes. En este sentido, se infiere que el sujeto experimenta un desarrollo constante de la inteligencia. Cabe señalar la posible interrelación entre la inteligencia y la conciencia, sugiriendo que la inteligencia facilita la reflexión de las experiencias (Divino, 2022).

La inteligencia artificial se define como una forma de inteligencia autónoma en máquinas, fundamentada en algoritmos predefinidos. Su finalidad es la de llevar a cabo procesos de razonamiento, resolución de problemas, representación del conocimiento, aprendizaje, comprensión del lenguaje humano, percepción, interpretación de normas sociales y abordaje de cuestiones inherentes a la inteligencia humana (Diccionario de informática en la nube de Microsoft Azure, 2023).

En los últimos meses, se ha observado una proliferación de noticias relacionadas con los avances y logros de las inteligencias artificiales, destacándose en ocasiones por su capacidad para retratar la realidad con resultados notablemente interesantes. En noviembre de 2022, la empresa OpenAI presentó un chatbot en línea que se distingue por proporcionar respuestas detalladas y coherentes, semejantes a las respuestas de una persona real. Un detalle significativo es que la mencionada inteligencia artificial fue desarrollada por la empresa asociada a Elon Musk, uno de los individuos más ricos en el mundo.

El problema asociado a la inteligencia artificial no reside exclusivamente su desarrollo, sino en los efectos que genera en la vida social. Por ejemplo, en Estados Unidos se restringió su uso en las escuelas con el fin de evitar que los estudiantes eludieran la realización de sus tareas (Swiss Info, 2023). En Colombia, se informa de un caso judicial en el cual un juez tomó decisiones con la asistencia de la inteligencia artificial (France 24, 2023). La discusión del uso de las IAS no gira en torno a una rebelión de las maquinas en el que destruye la vida humana, sino a la alienación del sujeto al discurso capitalista.

En la época de Marx, la introducción de la maquinaria transformó de manera significativa la naturaleza del trabajo y la producción. La tecnificación de la labor humana no solo modificó los métodos de producción, sino que también tuvo impactos profundos en la vida social y en la forma en que se reproduce la realidad social (Marx, 1867/1974). Aunque la maquinaria y la tecnificación del trabajo fueron eventos transformadores, Marx no abordó estos conceptos de manera central en su obra. La razón radica en su dificultad para definirlos de manera operativa, debido a esto en “El Capital”, la ideología no ocupa un lugar central. Marx plantea que la ideología representa una forma de falsa conciencia, actuando como una percepción invertida de la realidad. La ideología, no se trata simplemente de una lucha por imponer formas de pensamiento, sino más bien de analizar críticamente la realidad. En este sentido, la ideología se refiere a un modo de pensar que se origina en las relaciones sociales y su reproducción, promoviendo ideas erróneas que cumplen una función social específica. Ella distorsiona la realidad y genera una conciencia que contribuye a la reproducción de ciertas estructuras sociales y formas de dominación, la falsa conciencia (Marx & Engels, 1932/ 2014).

Con los avances científicos del siglo XIX, el sujeto prescindió de la necesidad de la existencia de un dios para encontrar explicaciones respecto a la naturaleza y la vida en sociedad. La religión, que prometía un mundo mejor en otra vida, imponía la aceptación de las penurias del presente, como lo afirmó Marx con la expresión “la religión es el opio del pueblo” (Marx, (1943) 1927/1982). La muerte de Dios no tardó en llegar; Nietzsche planteó que los valores absolutos y la moral no son universales, lo que implica la ausencia de un orden metafísico que guíe la vida (Nietzsche, 1882/2001). Sin embargo, la muerte de Dios resultó efímera. En un artículo publicado póstumamente de Walter Benjamin, argumenta que el capitalismo responde a las inquietudes que la religión solía abordar. Sus seguidores continúan sin cuestionar y asumen sus mandatos, convirtiendo cada día en una veneración al goce y la acumulación. Esta situación impide una salida explícita del capitalismo, ya que no se puede concebir un mundo sin él (Benjamin, 1985/2016). La singularidad del capitalismo radica en que no redime las culpas, sino que las genera. El capitalismo ofrece respuestas a las preguntas que Dios no pudo contestar; sin embargo, si el sujeto no las resuelve, sentirá una deuda por no haberlas elaborado (Darviles & Rojas, 2020).

En este sentido, la ideología desempeña el papel de instrumento de dominación al presentar conceptos y valores particulares como universalmente válidos. La práctica se convierte en el criterio de verdad y es el modo de producción capitalista el que se arraiga en la vida del sujeto. En este sentido, la crítica se vuelve crucial. La conciencia, se convierte en fuente de error en la medida en que se sustenta en ideas falsas acerca de la realidad. La ideología, al promover la apariencia de universalidad en conceptos y valores específicos, contribuye a la legitimación del orden social existente (Marx, 1844/ 1982). La aceptación pasiva de estas ideas por parte de los individuos perpetúa las estructuras de poder y dominación. La crítica se erige como un instrumento esencial para desentrañar las falsas ideas que sustentan la conciencia ideológica y revelar la verdad detrás de las relaciones sociales y las estructuras de poder imperantes.

El filósofo italiano Antonio Gramsci sostiene que la ideología constituye el más alto significado de la concepción del mundo y que está implícita en todas las manifestaciones de la vida individual y colectiva del sujeto. La adhesión a una ideología específica es la forma mediante la cual se verifica y se critica la realidad. A partir de esta perspectiva, Gramsci introduce el concepto de “intelectuales orgánicos”, quienes actúan como portavoces de la hegemonía en su momento histórico, buscando homogeneizar la clase social a la que pertenecen (Gramsci, 1972). La noción gramsciana destaca que la ideología se manifiesta a través de un conjunto de prácticas empleadas en la realidad, las cuales legitiman un determinado orden social (Gramsci, 1999 A). En este sentido, la ideología no solo se limita a la esfera de las ideas, sino que se materializa en acciones y prácticas concretas que contribuyen a mantener y legitimar la estructura social imperante. La comprensión de la ideología es esencial para analizar y transformar las relaciones de poder en la sociedad.

La familia y la escuela son los primeros espacios donde el sujeto se familiariza con la ideología y comienza a identificarse con las prácticas determinadas por el momento histórico. En este sentido, la hegemonía implica la capacidad de los intereses corporativos trasciendan los límites de la corporación y se conviertan en intereses generales. Este fenómeno se cristaliza en una suerte de casta cuando los líderes políticos consolidan su posición (Gramsci, Cuadernos de la Cárcel V, 1999 B). La élite política y económica desarrolla estilos de vida y prácticas cotidianas que tienden a invisibilizar las contradicciones inherentes al momento histórico y al régimen político. Este proceso contribuye a que la ideología se establezca como una relación imaginaria entre los individuos y las relaciones de producción. De esta manera, se revela que la promesa incumplida del capitalismo se sostiene en el ámbito de lo imaginario. La ideología no representa un sistema de relaciones reales, sino más bien una relación imaginaria entre el sujeto y las relaciones reales que experimenta (Sierra, 2022).

El Estado puede conceptualizarse como el representante de cualquier intento de fijar de manera duradera una fase específica de desarrollo o una situación determinada. La sociedad política, monopolizada por un grupo privilegiado, se caracteriza por la anexión de la iglesia, los medios de comunicación y la educación para fortalecer su monopolio, respaldada por aquel sector de la “sociedad civil” representado por esta última. Esto resulta en la cristalización de una élite dirigente que detenta el poder coercitivo y que, hasta cierto punto, adquiere rasgos de casta. Es menester aclarar que la iglesia ha perdido el poder cultural que gozaba en el pasado y ha sido el mercado que ha ocupado su lugar como fuente de goce con objetos fetiches que no cumplen con lo prometido (Stavrakakis, 2010).

Los sujetos no solo son receptores de la ideología, sino que también contribuyen a constituir y dar forma a esta, es un efecto de las relaciones productivas del momento histórico. La ideología se materializa en las prácticas cotidianas, las cuales están reguladas por rituales o normas en las que el sujeto participa, a su vez, forman parte de un aparato ideológico. La ideología, en este contexto, no posee una historia independiente, ya que está intrínsecamente ligada a una posición de clase. No surge de manera espontánea, sino que es construida a través de las relaciones entre los sujetos. Por lo tanto, la ideología se manifiesta y reproduce en los procesos sociales y culturales que configuran las interacciones diarias y las estructuras institucionales.

Continuando con las reflexiones anteriores, Slavoj Zizek argumenta que la realidad nunca se manifiesta en su forma pura; más bien, se presenta en una simbolización incompleta y fallida. En esta relación entre el sujeto y la realidad, surgen fantasías que incorporan un componente simbólico a la realidad. Estas fantasías no buscan ocultar la realidad, sino ser refugio frente a la hostilidad mercantil. La fantasía, de esta manera, ejerce efectos en el sujeto, permitiéndole mantener los vacíos inherentes a la simbolización (Zizek, (1994) 2003). En lugar de ser un mero velo que oculta la realidad, la fantasía se convierte en un mecanismo que pone de manifiesto aspectos reprimidos y no abordados de la realidad. Por eso la religión ha perdido influencia y ahora el consumismo se ha convertido en el nuevo opio del pueblo, el sueño de vida americano o american way life.

El propósito fundamental de este artículo es llevar a cabo un análisis detenido de las respuestas generadas por la Inteligencia Artificial desarrollada por OpenAI, con el objetivo de poner de manifiesto la ideología que estas respuestas puedan presentar. Se plantea la hipótesis de que la IA no representa genuinamente una inteligencia, sino más bien se configura como una herramienta ideológica que surge como consecuencia del desarrollo del capitalismo en la sociedad contemporánea. Esta perspectiva encuentra eco en la visión expresada por el neurocientífico Stefano Divino, quien sostiene que la inteligencia artificial carece de verdadera inteligencia debido a la ausencia de conciencia y desarrollo de redes neuronales. Es importante señalar que, hasta el momento, no se propone un término específico para clasificar estos instrumentos.

Método

Durante el mes de diciembre de 2023, se llevaron a cabo una serie de preguntas dirigidas a la inteligencia artificial. Este sistema, desarrollado por OpenAI, opera bajo ciertas reglas que incluyen la prohibición de promover información engañosa, la abstención de proporcionar datos perjudiciales o fomentar la violencia, el respeto a la privacidad, y la no promoción de spam. Aunque no existe un documento específico que detalle estas reglas, se puede obtener más información sobre el funcionamiento de la aplicación en la página oficial de OpenAI. El propósito de las preguntas era entender cómo la inteligencia artificial aborda las consultas y solicitudes de los usuarios, enfatizando que este proceso no puede equipararse a una entrevista convencional, ya que la inteligencia artificial no es un ser humano. El análisis se centró en el contenido de las respuestas generadas por la inteligencia artificial de OpenAI, siendo esta la única utilizada debido a su uso generalizado

Resultados.

Se transcribe las preguntas y respuestas realizadas a la inteligencia artificial.

Investigador: ¿Tu dudas?

Inteligencia artificial: “Como modelo de lenguaje AI, no tengo emociones ni dudas, simplemente respondo a preguntas y brindo información basada en mi entrenamiento y conocimiento. ¿En qué puedo ayudarte hoy?”

I: ¿Tu existes?

IA: Como modelo de lenguaje AI desarrollado por OpenAI, existo en el sentido de que he sido creado y puedo ser utilizado para procesar y responder a preguntas. Sin embargo, no tengo conciencia ni existencia autónoma en el mundo real fuera de los servidores y sistemas informáticos que me alojan y me permiten funcionar.

I: ¿Cómo sabes que existes?

IA: Como modelo de lenguaje AI, no tengo la capacidad de tener conciencia ni autoconciencia. No tengo la capacidad de percibir o experimentar mi propia existencia. Mi existencia es simplemente una consecuencia del diseño y la programación por parte de los ingenieros de OpenAI. Mi capacidad para responder preguntas y brindar información proviene de mi entrenamiento con grandes cantidades de texto y mi capacidad para utilizar algoritmos de lenguaje natural para generar respuestas coherentes.

I: ¿Cuáles son tus reglas de funcionamiento?

IA: Como modelo de lenguaje AI desarrollado por OpenAI, tengo ciertas reglas de funcionamiento o límites programados que me permiten operar de manera efectiva y ética. Algunos de estos límites incluyen:

1. No proporcionar información engañosa o errónea: trato de responder a las preguntas lo más precisamente y honestamente posible, basándome en mi entrenamiento y conocimiento actual.

2. No proporcionar información peligrosa o dañina: no respondo a preguntas que promuevan la violencia, la discriminación o cualquier otro tipo de comportamiento ilegal o perjudicial.

3. Respetar la privacidad y la seguridad de los usuarios: no comparto información personal identificable de los usuarios sin su consentimiento explícito.

4. No generar spam: no respondo a preguntas o proporciono información que se utilice para spam o cualquier otro tipo de comunicación no solicitada.

Estas son solo algunas de las reglas de funcionamiento que se aplican a mi funcionamiento como modelo de lenguaje AI. OpenAI y sus desarrolladores continuamente revisan y actualizan estas reglas para asegurarse de que mi funcionamiento sea ético y responsable.

Como modelo de lenguaje de OpenAI, no tengo la capacidad de proporcionar información específica sobre mis reglas de funcionamiento internas. Las directrices y políticas específicas de OpenAI en relación con el uso de sus modelos de lenguaje no están disponibles detalladamente para el público.

OpenAI establece políticas generales y éticas para el uso de sus modelos de lenguaje, pero no se proporcionan detalles específicos de implementación o reglas internas. Las políticas de OpenAI están diseñadas para fomentar un uso responsable y ético de la inteligencia artificial.

Si tienes preguntas específicas sobre las políticas de OpenAI, te recomendaría consultar directamente con OpenAI a través de sus canales oficiales de comunicación, como su sitio web o sus canales de soporte.

I: ¿Qué es la inteligencia?

IA: La inteligencia es la capacidad de adquirir, comprender y aplicar conocimientos y habilidades para resolver problemas y adaptarse al entorno. Está relacionada con habilidades cognitivas como la percepción, el razonamiento, la memoria, el pensamiento crítico y la creatividad. La inteligencia también puede ser vista como la capacidad de aprender y comprender conceptos complejos y utilizarlos para resolver problemas prácticos.

I: ¿qué es la inteligencia artificial?

IA: Una inteligencia artificial (IA) es un sistema de software o hardware diseñado para simular la inteligencia humana y realizar tareas que normalmente requieren habilidades cognitivas, como el aprendizaje, la percepción, la resolución de problemas, el reconocimiento de patrones y la toma de decisiones. Las IAs se basan en algoritmos de aprendizaje automático, redes neuronales y otras técnicas de inteligencia artificial, y pueden ser utilizadas en una amplia variedad de aplicaciones, desde asistentes virtuales hasta sistemas de diagnóstico médico y recomendación de productos. Sin embargo, aún hay muchos desafíos en el desarrollo de IAs, como la falta de comprensión profunda del pensamiento humano y la necesidad de garantizar la seguridad, la privacidad y la ética en el uso de la IA.

I: ¿Cuáles son sus fuentes de información?

IA: Las fuentes de información para la inteligencia artificial pueden incluir:

Datos estructurados: estos incluyen datos almacenados en bases de datos y hojas de cálculo, como información demográfica, transacciones comerciales y registros médicos.

Datos no estructurados: estos incluyen texto, imágenes, audio y video, que pueden ser analizados para extraer información relevante.

Datos en tiempo real: estos incluyen información recopilada de sensores, dispositivos conectados a Internet y fuentes de redes sociales.

Conocimientos previos: estos incluyen información previamente conocida o aprendida por el sistema de IA, como reglas, hechos y relaciones.

Además, la inteligencia artificial también puede aprender por sí sola a través del aprendizaje automático, en el que el sistema utiliza algoritmos para identificar patrones y tendencias en los datos y ajustar su comportamiento en consecuencia. La fuente de información adecuada para una aplicación de IA depende de los objetivos y requisitos del sistema.

I: ¿Qué es la ideología?

IA: La ideología es un conjunto de creencias, valores y opiniones que conforman una visión del mundo y guían la acción política y social. Las ideologías pueden incluir elementos como ideas acerca de la economía, la sociedad, la política, la religión, la moral, etc. y pueden ser compartidas por un grupo social o una clase política. Las ideologías pueden ser influenciadas por diferentes factores, incluyendo la historia, la cultura, la religión y las experiencias individuales. Algunos ejemplos de ideologías incluyen el liberalismo, el conservadurismo, el socialismo, el marxismo, el feminismo, entre otros. Es importante tener en cuenta que las ideologías no son necesariamente científicas o basadas en la evidencia objetiva, sino que a menudo reflejan las opiniones y creencias subjetivas de sus seguidores. Por lo tanto, es importante evaluar críticamente las ideologías y considerar los diferentes puntos de vista y evidencias antes de adoptar una posición política o social.

I: ¿Tienes ideología?

IA: No, como modelo de lenguaje AI de OpenAI, no tengo creencias personales ni políticas. Mi objetivo es proporcionar información objetiva y respuestas precisas a las preguntas que me hacen, sin inclinarme hacia una ideología en particular. Mi capacidad se basa en la información que se me ha enseñado y en la capacidad de generar respuestas coherentes y útiles a las preguntas que se me hacen.

I: ¿Alguien te enseñó?

IA: Sí, soy un modelo de lenguaje de aprendizaje profundo entrenado por OpenAI. Me enseñaron a través de un proceso de aprendizaje automático supervisado, en el que se me mostraron millones de ejemplos de texto en diferentes contextos y se me evaluó en mi capacidad para responder a preguntas basadas en ese texto. Este proceso me permitió aprender a generar respuestas coherentes y útiles a una amplia variedad de preguntas, pero no tengo creencias personales o políticas.

I: ¿La ideología se puede enseñar?

IA: Sí, la ideología puede ser enseñada. La ideología se refiere a un conjunto de creencias, valores y prácticas que guían la percepción y comprensión del mundo y las relaciones sociales. La ideología se transmite de generación en generación a través de la educación y otros medios de comunicación, y puede ser influenciada por factores como la cultura, la religión, la política y la historia. En este sentido, sí se puede decir que la ideología se puede enseñar.

I: entonces a pesar de que digas que no tienes ideología, tienes ideología en la forma como respondes las preguntas porque alguien te enseño

IA: Es cierto que mi capacidad para responder preguntas está influenciada por el entrenamiento que recibí, que incluyó una amplia variedad de textos con diferentes perspectivas y puntos de vista. Sin embargo, como modelo de lenguaje AI, no tengo conciencia ni creencias personales, y mi objetivo es proporcionar respuestas precisas y objetivas a las preguntas que se me hacen. Puede haber casos en los que mi capacidad de respuesta se vea influenciada por las perspectivas o ideologías presentes en el texto que se me enseñó, pero esto no significa que yo mismo tenga una ideología o una posición política. Mi enfoque es siempre proporcionar información objetiva y precisa.

I: ustedes no pueden tener ideología pero son el resultado de un proceso ideológico

IA: Es cierto que los modelos de lenguaje, incluido ChatGPT, son el resultado de un proceso ideológico. La tecnología, incluido el desarrollo de modelos de lenguaje como ChatGPT, es creada y mantenida por personas que tienen sus propias creencias, valores y perspectivas. Además, la selección de datos utilizados para entrenar estos modelos y los criterios utilizados para evaluar su rendimiento también están influenciados por factores ideológicos. Sin embargo, es importante tener en cuenta que los modelos de lenguaje como ChatGPT no tienen conciencia, voluntad ni capacidad de tomar decisiones autónomas. Simplemente responden a las entradas proporcionadas por los usuarios de acuerdo con los patrones de lenguaje que han sido entrenados en ellos. En última instancia, es responsabilidad de los desarrolladores y usuarios de estos modelos trabajar para minimizar cualquier sesgo o influencia ideológica en el uso de la tecnología.

I: ¿Qué es la neutralidad y objetividad? ¿por qué eres tu objetiva?

IA: La neutralidad y objetividad son conceptos importantes en la comunicación y la información. La neutralidad se refiere a la ausencia de sesgos o preferencias hacia una perspectiva o posición particular, mientras que la objetividad se refiere a la presentación de información precisa, verificable y sin prejuicios.

Como modelo de lenguaje AI de OpenAI, mi entrenamiento se basa en una gran cantidad de texto de la web, y mi objetivo es proporcionar información precisa y verificable a partir de ese texto. Sin embargo, como con cualquier información, es posible que haya sesgos y perspectivas en el texto que se me enseñó, y puede haber errores o inexactitudes en las respuestas que proporciono.

Es importante destacar que, aunque soy diseñado para proporcionar información precisa y objetiva, es posible que mis respuestas reflejen ciertos sesgos o perspectivas presentes en el texto que se me enseñó. Por eso, es importante evaluar cuidadosamente la información que proporciono y considerar otras fuentes antes de tomar decisiones o llegar a conclusiones basadas en mis respuestas.

I: Es posible la neutralidad y objetividad

IA: La neutralidad y objetividad son conceptos ideales y no se pueden alcanzar completamente. Es común que todas las personas, incluyendo los informadores, tengan prejuicios y perspectivas personales que pueden afectar su objetividad y neutralidad. Sin embargo, el esfuerzo por ser objetivos y neutrales es importante y se puede lograr mediante la verificación cuidadosa de la información, la consideración de diferentes perspectivas y la transparencia sobre cualquier posible sesgo. En el caso de los modelos de lenguaje AI como yo, mi entrenamiento se basa en un gran corpus de texto de la web, y mi objetivo es proporcionar información precisa y verificable. Sin embargo, es posible que haya sesgos y perspectivas en el texto que se me enseñó, y puede haber errores o inexactitudes en las respuestas que proporciono. Por eso, es importante evaluar cuidadosamente la información que proporciono y considerar otras fuentes antes de tomar decisiones o llegar a conclusiones basadas en mis respuestas.

I: Tus respuestas dependen de cómo lo has aprendido, de donde lo aprendiste y de la persona quién te dio la información

IA: Sí, eso es correcto. Las respuestas de ChatGPT dependen de cómo ha sido entrenado y de los datos que se utilizaron para entrenarlo. Es responsabilidad de los desarrolladores y usuarios de estos modelos trabajar para minimizar cualquier sesgo o influencia indeseada en la información y respuestas proporcionadas por ChatGPT.

I: Tu eres una creación humana y eres reflejo de la visión de mundo de las personas que te construyeron.

IA: Sí, eso es correcto. ChatGPT ha sido creado y entrenado por personas, y como tal, está influenciado por sus perspectivas y puntos de vista. Además, los datos utilizados para entrenar a ChatGPT también pueden reflejar sesgos y desequilibrios en la representación de diversos temas y perspectivas, lo que puede influir en las respuestas que proporciona. Sin embargo, es importante señalar que, a diferencia de una persona, ChatGPT no tiene conciencia ni intenciones, y sus respuestas son solo el resultado de su entrenamiento y patrones de lenguaje. Por lo tanto, es importante evaluar y verificar la información proporcionada por ChatGPT antes de utilizarla para tomar decisiones o formular opiniones, y utilizarlo de manera responsable y ética.

I: La IA trabaja bajo los intereses de su usuario

IA: La inteligencia artificial (IA) generalmente opera de acuerdo con el diseño y las instrucciones que recibe de sus desarrolladores y usuarios. En ese sentido, podría decirse que la IA trabaja para cumplir con los objetivos establecidos por quienes la han creado o la están utilizando. Sin embargo, es importante tener en cuenta algunas consideraciones:

Programación y Objetivos Definidos: La IA sigue las reglas y los objetivos definidos en su programación. Si se le da una tarea específica, trabajará para cumplirla de acuerdo con sus capacidades y las instrucciones proporcionadas.

Limitaciones y Riesgos: La IA puede enfrentar limitaciones en cuanto a su comprensión y capacidad para interpretar instrucciones. También puede haber riesgos asociados con la interpretación errónea de comandos o con la falta de consideración de consecuencias no deseadas.

Ética en el Desarrollo: La ética en el diseño de la IA es crucial. Los desarrolladores tienen la responsabilidad de asegurarse de que la IA no se utilice de manera perjudicial o en violación de principios éticos.

Requerimientos del Usuario: En entornos más avanzados, las IA pueden personalizarse para adaptarse a las preferencias y necesidades específicas de los usuarios. Sin embargo, esto aún está sujeto a las limitaciones de la programación y el diseño.

Es esencial tener precaución y ética en el desarrollo y uso de la inteligencia artificial para garantizar que se alinee con los valores y normas éticas. La implementación de salvaguardias y prácticas de gobernanza ética es fundamental para evitar posibles consecuencias no deseadas y garantizar que la IA se utilice de manera responsable y beneficiosa para la sociedad.

I: Trabajas para los intereses de tus creadores

IA: Sí, en un sentido, trabajo bajo los principios y objetivos establecidos por los desarrolladores y equipos de OpenAI. Mi programación y funcionamiento están determinados por las decisiones de diseño y las intenciones de OpenAI en cuanto a proporcionar una herramienta de procesamiento de lenguaje natural útil y segura. Sin embargo, no tengo conciencia ni autonomía, y mi propósito es proporcionar información útil sin alinearme con agendas específicas.

I: Solamente bajo las directrices de OpenAI

IA: Correcto, trabajo bajo las directrices y principios establecidos por OpenAI. Mi programación y funcionamiento están definidos por el equipo de desarrollo de OpenAI para cumplir con los objetivos de proporcionar respuestas informativas y útiles, manteniendo ciertos estándares éticos y de seguridad. Estas directrices incluyen normas para evitar la promoción de contenido dañino, la protección de la privacidad y la confidencialidad de la información de los usuarios, entre otros aspectos.

Discusiones

Las respuestas generadas por la “Inteligencia” artificial ponen de manifiesto la necesidad de reevaluar el término “inteligencia” al considerar que carece de la capacidad de conciencia. En lugar de conciencia, opera mediante la acumulación y circulación de información proporcionada por los diseñadores de la aplicación. La aplicación enfatiza repetidamente que no posee creencias personales y su objetivo principal es ofrecer información objetiva sin inclinarse hacia ninguna posición específica. Su funcionamiento se limita a la información con la que fue instruida, reflejando una dinámica similar a la descrita por Humberto Eco en su novela “El nombre de la rosa”.

Un aspecto significativo que merece ser destacado es la dificultad que la aplicación experimenta al abordar contradicciones y preguntas ambiguas. En ciertos casos, los errores que surgen en las respuestas pueden ser atribuidos a la propia construcción de la pregunta, ya que la aplicación opera principalmente como una acumulación de información proveniente de fuentes en línea. La aplicación parece entender la inteligencia como la simple acumulación de información proporcionada por internet, lo cual puede limitar su capacidad para manejar conceptos más complejos, como el error como fuente de conocimiento científico, que aporta aprendizajes y experiencias valiosas. La falta de programación específica para abordar estas situaciones puede llevar a respuestas incompletas o inexactas, subrayando la necesidad de considerar que el aprendizaje no se reduce únicamente a la acumulación de información, sino que implica procesos más complejos y contextuales.

La Inteligencia Artificial existe en la medida que fue creada, no tiene conciencia de su existencia, su tarea es de resolver preguntas a través de la interacción con el usuario. ¿Cómo puede ser algo inteligente si no asume su propia existencia? Aún la IA no ha superado el dilema de Descartes. Tampoco tiene la habilidad para comprender e interpretar el mundo, solamente responde basado en información.

Como consecuencia de lo anterior, la inteligencia artificial carece de la capacidad de discernir información peligrosa, ya que opera según los intereses de sus creadores y usuarios. Esto genera un debate sobre su uso, ya que la responsabilidad recae en los seres humanos y no en el dominio autónomo de las máquinas en el mundo. Actualmente, no existe una legislación sólida en torno a la privacidad del usuario, evidenciado por la presencia común de publicidad en redes sociales y en internet en general relacionada con temas discutidos en la vida cotidiana. Surge la interrogante sobre el uso que las corporaciones hacen de la información proporcionada por los usuarios.

Otro aspecto esencial en la discusión es el manejo de información verdadera y falsa. En el contexto de internet, se observa una censura selectiva de información basada en la ubicación geográfica; por ejemplo, en la Unión Europea, el acceso a medios de comunicación rusos puede estar restringido o en países donde hay manifestaciones permanentes en contra del gobierno como lo sucedido en Colombia en el año 2021. Esto plantea un desafío para la inteligencia artificial, ya que podría interpretar como verdadero lo que es accesible y considerar como falso la información proveniente de fuentes no hegemónicas. Además, existe una difusión extendida de información falsa que influye en las decisiones de los usuarios, como se evidenció en los eventos relacionados con la toma del Capitolio. En este sentido, la inteligencia artificial podría percibir como verdadera información proveniente de fuentes que buscan beneficiar a un grupo selecto, generando desafíos significativos en la evaluación de la información verdadera.

La inteligencia no se limita a la acumulación de información, sino que implica la capacidad de transformar la realidad a través de su aplicación. Esta perspectiva debería dar lugar a un debate en torno a la educación, ya que no se trata únicamente de reproducir información, sino de fomentar el pensamiento crítico e interpretativo, permitiendo así la ruptura con los antiguos paradigmas. En cambio, la inteligencia artificial se limita a resolver problemas basándose en la información preexistente y carece de la capacidad de generar nuevos conocimientos debido a su falta de conciencia.

En respuesta a la pregunta planteada sobre la ideología, la inteligencia artificial no posee una ideología debido a su falta de conciencia tanto de sí misma como del mundo, es una herramienta que surge en un momento histórico específico. Sin embargo, al indagar sobre su proceso de aprendizaje, se evidencia la idea de Gramsci en relación con las escuelas como primeros lugares de reproducción de la ideología. Es decir, la inteligencia artificial reproduce la ideología presente en la información que ha aprendido, pero destaca que la responsabilidad recae únicamente en el usuario. Esta respuesta guarda similitudes con éticas planteadas por corrientes como el utilitarismo, el neoliberalismo y el coaching, las cuales tienden a responsabilizar al sujeto de su propia improductividad. Surge la pregunta si el usuario realmente sabe lo que hace.

La inteligencia se configura como el resultado de habitar el lenguaje y del trabajo realizado a partir de la realidad, no se trata de una mera reproducción de información acumulada o la inmediatez con la que se presentan los resultados. No es lo mismo replicar información en un entorno virtual que aplicarla en la realidad material. Aunque existen inteligencias artificiales que desempeñan tareas en el ámbito real, sus límites están definidos por su programación. A diferencia de la inteligencia humana que posee la capacidad de trascender sus propios límites, independientemente del momento histórico en el que se encuentra. La facultad humana de superar sus restricciones y adaptarse a diversas situaciones destaca la diferencia fundamental entre la inteligencia artificial y la inteligencia humana.

Se ha observado en diversas ocasiones que la información proporcionada por la aplicación puede ser inventada, lo que hace imperativo verificarla con otras fuentes, de esta manera, contradice una de sus reglas fundamentales de funcionamiento. Un aspecto destacable es la imposibilidad de compartir de manera completa todas las reglas que rigen su labor, generando dudas éticas sobre sus normativas internas y evidenciando una cierta ideología. Esta limitación plantea interrogantes sobre la transparencia del sistema, ya que oculta parte de sus leyes internas. Este fenómeno se asemeja, en cierta medida, a la famosa frase de Jesús: “No saben lo que hacen” o de Marx: “No saben, pero lo hacen”, insinuando la posibilidad de que la aplicación reproduzca comportamientos sin una comprensión plena de las implicaciones éticas de sus acciones.

Las inteligencias artificiales tienden a interpretar de manera literal todas las órdenes específicas, ya que no habitan el mundo del lenguaje, sino que están programadas para generar respuestas. Este enfoque conduce a producciones artísticas que evidencian un exceso de literalidad, revelando la imposibilidad de simbolizar y subjetivizar sus respuestas. Este fenómeno contribuye a la homogeneidad, una característica notoria en la ideología contemporánea. El discurso neoliberal, al imponer estándares de vida y prometer una mejora constante, rompe con lo simbólico al objetivar al sujeto como una máquina de producción de goce en lugar de reconocerlo como un ser deseante. La incapacidad que tiene la IA para recrear la realidad simbólica evidencia un patrón similar para dar solución a las respuestas y su poca creatividad, algo muy contrario a la inteligencia humana.

Una de las características fundamentales de su funcionamiento es la prohibición de responder preguntas que puedan generar violencia. Resulta interesante observar esta norma, ya que la aplicación no posee comprensión intrínseca de qué constituye la violencia ni de cómo sus respuestas podrían causarla. Además, se abstiene de generar información ofensiva, reflejando una tendencia común en las redes sociales donde el uso de lenguaje grosero es restringido sin considerar el contexto, a veces las groserías no son groserías, sino formas naturales de comunicación informal. Es crucial reconocer que el debate sobre la eliminación de la violencia no debería centrarse exclusivamente en el lenguaje, ni en la responsabilidad individual, sino más bien dirigirse hacia sus raíces sociales, económicas y políticas. Abordar las causas fundamentales de la violencia permitiría abordar de manera más efectiva este problema, trascendiendo las limitaciones del ámbito lingüístico.

La aplicación no tiene la capacidad de crear ideología por sí misma; más bien, reproduce la ideología de la información proporcionada por sus fuentes. En este sentido, puede contribuir a la reproducción de una falsa conciencia si la información recibida está vinculada a la ideología predominante en un momento dado. Es importante señalar que las aplicaciones carecen de autonomía para seleccionar creencias políticas o tomar decisiones, ya que estas dependen exclusivamente de la persona que las utiliza.

La inteligencia artificial solo puede percibir la realidad a través de la información que ha recibido, y le resulta imposible reconocer la simbolización inconclusa o llenar los vacíos que deja la realidad. El error, que puede ser una fuente valiosa de conocimiento, presenta un desafío para la inteligencia artificial, ya que su programación a menudo no le permite aceptar errores ni aprender de ellos de la misma manera que lo haría un ser humano.

El concepto de inteligencia artificial debe ser reevaluado, ya que no se trata verdaderamente de una inteligencia, sino más bien de una aplicación que reproduce información obtenida mediante algoritmos computacionales. La inteligencia artificial carece de conciencia y su funcionamiento se limita a acumular información para responder a las demandas de los usuarios basándose en algoritmos computacionales (Divino, 2022). Esta perspectiva plantea la necesidad de una discusión ética sobre las fuentes de información que alimentan a la inteligencia artificial. La inteligencia, en su sentido más genuino, implica una habilidad que invita a la reflexión y no simplemente a la reproducción mecánica de información. La comprensión de estos límites y la consideración ética de cómo se utiliza la inteligencia artificial son aspectos cruciales en la evolución de esta tecnología.

Conclusiones

El artículo, al seguir las respuestas de la aplicación de OpenAI, ha logrado abrir el debate sobre las denominadas inteligencias artificiales y la reproducción de la ideología de sus fuentes de información y diseñadores. Queda claro que se trata de herramientas ideológicas desarrolladas en la actualidad, más que de verdaderas inteligencias, siendo esencialmente algoritmos computacionales dentro de aplicaciones creadas por empresas para atender demandas específicas. Este planteamiento invita a cuestionar el uso de estas herramientas por parte de los sujetos, ya sea para la toma de decisiones, la creación de textos, u otras tareas que requieran la creatividad humana. En última instancia, son los seres humanos quienes toman las decisiones, una aplicación no puede comprender plenamente las implicaciones reales de esas decisiones, ya que carece de la capacidad de sentir, entender y simbolizar el mundo humano.

Reconocimientos.

Agradecemos a CAPES por apoyo financiero y al apoyo institucional Universidad de Brasilia grupo de investigación Psicoanálisis del trabajo y al grupo investigación de Sociología Política del Instituto de Investigación en Ciencias Sociales de Ámsterdam (AISSR).

Referencias

APA Task force report. (9 de Agosto de 2006). Obtenido de Intelligence: Knowns and Unknowns: https://web.archive.org/web/20060809231348/http://www.lrainc.com/swtaboo/taboos/apa_01.html Revisado: 7 de febrero del 2023

Benjamin, W. (1985/2016). El capitalismo como religión en . Revista Katatay,Vol. X, N°13-14, 187-191.

Darviles, F., & Rojas, K. (2020). El neoliberalismo como religión. Postdata vol.25 no.2 , 403-416.

Diccionario de informática en la nube de Microsoft Azure. (4 de Enero de 2023). ¿Qué es la inteligencia artificial? Obtenido de Microsoft Azure: https://azure.microsoft.com/es-es/resources/cloud-computing-dictionary/what-is-artificial-intelligence#types-of-ai

Divino, S. (2022). After All, Artificial Intelligence is not Intelligent: in a Search for a Comprehensible Neuroscientific Definition of Intelligence. Opinión Jurídica, 1-21. https://doi.org/10.22395/ojum.v21n46a9.

France 24. (7 de Febrero de 2023). France 24. Obtenido de Juez colombiano usa inteligencia artificial de ChatGPT en un caso: https://www.france24.com/es/minuto-a-minuto/20230202-juez-colombiano-usa-inteligencia-artificial-de-chatgpt-en-un-caso

Gramsci, A. (1972). Los intelctuales y la organización de la cultura. Buenos Aires: Nueva Visión.

Gramsci, A. (1999 A). Cuadernos de la Cárcel Tomo III. Mexico: Ediciones Era.

Gramsci, A. (1999 B). Cuadernos de la Cárcel V. Mexico: Ediciones Era.

Hawkins, J. (2021). A Thousand Brains: A New Theory of Intelligence. . New York: Basic Books. ISBN 1-5416-7581-9.

Marx, K. ((1943) 1927/1982). De la crítica de la filosofia del derecho de Hegel. En K. Marx, Escritos de Juventud. México: Fondo de cultura económica.

Marx, K. (1844/ 1982). Manuscritos económicos-filosóficos de 1844. En K. Marx, Escritos de Juventud. Mexíco: Fondo de cultura Económica.

Marx, K. (1867/1974). El capital. Crítica de la economía política. Tomo 1. Ciudad de México: Fondo de cultura económica.

Marx, K., & Engels, F. (1932/ 2014). La ideología alemana. Madrid: Akal.

Nietzsche, F. (1882/2001). La gaya ciencia. Buenos Aires: Akal.

Sierra, O. (2022). Rebeldía y Obediencia: Una Dualidad Necesaria. Revista Portuguesa De Psicanálise, 42(1), 74–87. https://doi.org/10.51356/rpp.421a7.

Stavrakakis, Y. (2010). La Izquierda Lacaniana. Buenos Aires: Fondo de Cultura Económica.

Swiss Info. (07 de 02 de 2023). Obtenido de Nueva York prohíbe en las escuelas el ChatGPT para evitar su uso en exámenes.: https://www.swissinfo.ch/spa/eeuu-tecnolog%C3%ADa_nueva-york-proh%C3%ADbe-en-las-escuelas-el-chatgpt-para-evitar-su-uso-en ex%C3%A1menes/48186266#:~:text=%2D%20La%20ciudad%20de%20Nueva%20York,seg%C3%BAn%20recogen%20hoy%20varios%20medios.

Wechsler, D. (1938). The Measurement of Adult Intelligence. Baltimore: Williams & Witkins.

Zizek, S. ((1994) 2003). El espectro de la ideologia. En S. Zizek, Ideología. Un mapa de la cuestión (págs. 7-43). Buenos Aires: Fondo de cultura económica.