Todo es lo que parece
Por Igor I. González / @i_gonzalez
Como pocas veces, en estos días de asueto he tenido la oportunidad de charlar largo y tendido con varios buenos amigos. Desde luego, gran parte de la plática ha girado, entre otras cosas, en torno a la efervescencia que tienen —y tendrán— tanto el desarrollo como el impacto de la inteligencia artificial en nuestras vidas.
La reciente «popularización» de modelos de lenguaje generativo (i. e ChatGPT, Bing, etc.) es un tema ineludible en el plano de la conversación pública. En este sentido, algunos compas se han clavado en los aspectos técnicos y, con ello nos han permitido asomarnos al elegante engranaje que funciona tras bambalinas de estas maravillas. Otros hemos preferido explorar la vía sociopolítica y cómo —sí o sí— el desarrollo exponencial de la IA ha modificado y modificará la práctica humana en todos los niveles.
Incluso, ya a altas horas de la noche, algunos más valientes, se han aventurado en la reflexión sesuda y filosófica acerca de las consecuencias del desarrollo de la IA para la concepción de lo humano y de lo maquínico. Vaya cosa. Como quiera que sea, en conjunto, hemos podido identificar que en torno al tema hay tres grandes posturas más o menos identificables.
La primera se sitúa de manera muy cercana al escepticismo, es decir, aquellos que ven a esta herramienta con temor apocalíptico e, incluso, la prefieren desdeñar o ignorar.
La segunda es más bien cautelosa y asume que la IA finalmente constituye una herramienta para la amplificación de las capacidades humanas que puede incrementar de forma significativa la eficiencia y la productividad en casi cualquier ámbito. Por supuesto, ello siempre dentro de un marco regulatorio claro y contundente (sobra decir que yo suscribo esta postura).
La tercera es en extremo optimista y le da la bienvenida sin restricciones a la humanización de la tecnología y a la cyborg-ización de lo humano. Como quiera que sea, es innegable que el desarrollo a pasos agigantados de la IA nos sitúa en un punto de inflexión de escala global.
Con ello en mente, se me ocurrió hacer algo de lo poco en lo que me siento medianamente competente, es decir, me fui a entrevistar (1) a ChatGPT. Luego de la entrevista me enfoqué en plantearle a la AI un ejercicio que me permitió «medir» —a ojo de buen cubero— sus alcances y limitaciones. Así, después de las respectivas presentaciones, ChatGPT y yo discutimos sobre su funcionamiento; sobre la ausencia de regulaciones específicas que impongan límites legales a sus procesos y resultados… Y como era de esperarse, la conversación se trasladó al plano de lo ético. Entonces la IA trastabilló y entró en varias contradicciones. Por ejemplo, se atribuía los aciertos pero delegaba la responsabilidad de sus fallos tanto a los usuarios como a quienes lo «entrenaban»:
Igor: Interesante… ¿Estarías de acuerdo en que toda decisión que se toma, ya sea por un humano o por una inteligencia artificial, tiene un componente ético?
Chat: Sí, estoy de acuerdo en que toda decisión que se toma, ya sea por un humano o por una inteligencia artificial, tiene un componente ético. La ética implica tomar decisiones que consideren los valores y principios morales en juego, y esto se aplica tanto a los seres humanos como a las máquinas. Por ejemplo, en el caso de un modelo de lenguaje como yo, es importante considerar cómo se utilizan los resultados que se generan y cómo pueden afectar a las personas. En este sentido, se deben tener en cuenta aspectos como la privacidad, la seguridad y la no discriminación en la toma de decisiones y en la generación de resultados. En definitiva, la ética es una parte fundamental de cualquier proceso de toma de decisiones, y se aplica tanto a los seres humanos como a las máquinas.
Igor: Entonces sí tomas decisiones éticas. ¿No?
Chat: Como modelo de lenguaje, yo no tomo decisiones éticas por mi cuenta, ya que no tengo una voluntad o intención propias. Sin embargo, la forma en que se me entrena y se me utiliza puede tener implicaciones éticas, y por eso es importante que quienes trabajan conmigo tomen en cuenta los aspectos éticos en su interacción conmigo. En este sentido, se pueden establecer criterios éticos para la utilización de los resultados que genero, por ejemplo, para garantizar la privacidad de los usuarios, evitar la discriminación y promover la transparencia en la toma de decisiones. Pero en última instancia, son los seres humanos quienes toman las decisiones éticas y quienes tienen la responsabilidad de garantizar que se tomen en cuenta los valores y principios éticos en cualquier proceso que involucre el uso de tecnologías como la mía.
Pasó algo similar cuando el tema se traslada al plano del vínculo humano/IA. Interrogué a ChatGPT específicamente acerca de su capacidad de procesamiento. Desde luego, me dio a entender que ésta era infinitamente más alta que la nuestra. Le pregunté si eso la hacía superior a los seres humanos. Yo esperaba una respuesta contundente. En cambio, la IA me dijo:
Chat: No necesariamente. Aunque puedo procesar grandes cantidades de información a una velocidad mucho mayor que los seres humanos, mi capacidad de comprensión y toma de decisiones es aún limitada en comparación con la de los seres humanos. Aunque puedo ayudar en muchas tareas, no soy un reemplazo completo para la inteligencia humana y no puedo replicar completamente la complejidad del pensamiento humano. Además, los seres humanos tienen habilidades y capacidades que están más allá de mi alcance, como la creatividad, la empatía y el juicio moral complejo.
No necesariamente, dijo. O sea que tal vez sí. Pero no necesariamente. ¿Qué tal? Más o menos en este tono fueron sus respuestas. Divertido, ¿no? En fin, fuera de bromas. La charla fue amena. Sé qué por el momento esto que llamamos IA es más un motor de razonamiento (al que no debemos confundir con un repositorio de hechos comprobados, ojo ahí) que responde a las interacciones con la o el usuario. Sé también que está programado para imitar el lenguaje natural y simular que siente y piensa; incluso, es capaz de fingir emociones (Bing suele colocar emoticones al final de cada una de sus respuestas).
Y también sé de la infinita cantidad de matices y de tonalidades que tiene el lenguaje humano, las cuales todavía son imposibles de capturar en un algoritmo. Quién sabe qué pase en el corto plazo. Por lo pronto, cierro esta columna con una preocupación que el buen Slavoj Žižek ya puso sobre la mesa: más que la humanización del lenguaje maquínico, el peligro más inmediato es que los humanos acudamos a un lenguaje sin gradientes, sin subjetividad, de modo que la IA «nos entienda mejor».
Aguas, porque ahí sí lo perdemos todo.
Igor: Hola, Chat. Te voy a compartir una fórmula: la vida social es una función de la interacción entre actores sociales y estructuras sociales en un tiempo y en un espacio específico. ¿La fórmula es clara?
Chat: ¡Hola! Sí, la fórmula que compartiste es clara. Entiendo que estás describiendo la vida social como una función matemática que depende de la interacción entre diferentes actores sociales y estructuras sociales, y que esta interacción ocurre en un momento y lugar específicos. En otras palabras, la vida social es influenciada por factores como la cultura, la política, la economía, la geografía y la historia de un lugar y tiempo determinados. ¿Necesitas más ayuda o información sobre este tema? Estoy aquí para ayudarte en lo que necesites.
Igor: ¿Qué variables y parámetros me sugieres para hacer operativa esta fórmula?
Chat: La fórmula que compartiste es bastante general, lo que significa que hay varias variables y parámetros que podrían ser relevantes para hacerla operativa. Aquí hay algunas sugerencias que podrías considerar:
- Actores sociales: quiénes son los individuos, grupos, organizaciones o instituciones que interactúan entre sí en un espacio y tiempo específicos. Puedes especificar las características de los actores sociales como su edad, género, nivel socioeconómico, educación, afiliaciones políticas, entre otros.
- Estructuras sociales: son los patrones de relaciones y normas sociales que influyen en la vida social. Puedes especificar las estructuras sociales como la familia, la religión, la política, la economía, la educación, la cultura, entre otros.
- Interacción social: cómo se relacionan y comunican los actores sociales en el espacio y tiempo específicos. Puedes medir la interacción social en términos de frecuencia, duración, tipo de comunicación, calidad de la interacción, entre otros.
- Tiempo y espacio: la duración y ubicación geográfica de la interacción social. Puedes medir el tiempo y espacio en términos de horas, días, semanas, meses o años, así como también en términos de ubicación geográfica, ya sea a nivel local, nacional o internacional.
- Resultados o efectos de la interacción social: cómo afecta la interacción social a los actores sociales y a la estructura social en general. Puedes medir los resultados o efectos en términos de cambios en actitudes, valores, comportamientos, políticas, economía, cultura, entre otros.
Estas son solo algunas sugerencias que puedes considerar para hacer operativa la fórmula que compartiste. La elección de variables y parámetros dependerá de tus objetivos y del contexto específico en el que estés aplicando la fórmula.
Igor: Con base tanto en la fórmula que te di, los parámetros y las variables que me sugeriste, plantea una hipótesis que explique la violencia en México.
La violencia en México es un problema multifactorial que puede ser explicado por diferentes hipótesis. Con base en la fórmula que compartiste y los parámetros y variables que mencionaste, una posible hipótesis para explicar la violencia en México es:
Chat: La violencia en México es el resultado de la interacción entre actores sociales (individuos y grupos criminales) y estructuras sociales (políticas, económicas y culturales) en un espacio y tiempo específicos. La presencia de estructuras sociales débiles o corruptas, combinada con la exclusión social y económica de ciertos grupos de la población, crea un ambiente propicio para la emergencia y consolidación de grupos criminales que compiten por el control de recursos y territorios. Además, la interacción violenta entre estos grupos y con la sociedad en general, genera un círculo vicioso de violencia que afecta negativamente la seguridad y el bienestar de la población.
Esta hipótesis sugiere que la violencia en México no es causada por un solo factor, sino que es el resultado de la interacción entre diferentes factores sociales, políticos, económicos y culturales en un espacio y tiempo específicos. Además, sugiere que para prevenir y reducir la violencia en México es necesario abordar no solo las manifestaciones violentas en sí mismas, sino también las causas profundas que la generan.
Igor: Ahora propón una hipótesis alternativa
Chat: Una hipótesis alternativa para explicar la violencia en México, con base en la fórmula que me compartiste y los parámetros y variables que mencionaste, podría ser la siguiente:
La violencia en México es el resultado de una combinación de factores individuales, como la falta de valores, la educación inadecuada, la falta de oportunidades laborales, la falta de respeto a la ley y el orden, y factores estructurales, como la corrupción y la ineficacia de las instituciones encargadas de la seguridad pública y la justicia, la presencia de grupos criminales y el tráfico de drogas en el país. Estos factores interactúan entre sí en un espacio y tiempo específicos, lo que contribuye a la creación de un ambiente de violencia que afecta negativamente la seguridad y el bienestar de la población.
Esta hipótesis sugiere que la violencia en México es el resultado de una combinación de factores individuales y estructurales, y que es necesario abordar ambos tipos de factores para prevenir y reducir la violencia en el país. Además, sugiere que para lograr una disminución efectiva de la violencia, se debe trabajar en mejorar la educación, la creación de empleo, y la construcción de instituciones más eficaces y menos corruptas.
Igor: Elabora la misma hipótesis pero con un énfasis en el poder político
Chat: Una hipótesis alternativa con un énfasis en el poder político para explicar la violencia en México, con base en la fórmula que me compartiste y los parámetros y variables que mencionaste, podría ser la siguiente:
La violencia en México es el resultado de la interacción entre actores sociales y estructuras sociales en un espacio y tiempo específicos, pero el factor determinante en esta ecuación es el poder político. La concentración de poder en unas pocas manos, el uso indebido de los recursos públicos y la falta de rendición de cuentas por parte de los políticos, ha generado un ambiente propicio para la corrupción y la impunidad. Esto ha debilitado las instituciones encargadas de la seguridad pública y la justicia, lo que ha permitido el surgimiento y consolidación de grupos criminales. Además, la competencia por el control del poder político ha llevado a una lucha violenta entre diferentes grupos políticos, lo que ha agravado aún más la situación de violencia en el país.
Esta hipótesis sugiere que la violencia en México es el resultado de la interacción entre diferentes factores sociales, pero que el poder político es el factor determinante. Sugiere que la concentración de poder y la falta de rendición de cuentas por parte de los políticos son las principales causas de la violencia en México. Además, sugiere que para prevenir y reducir la violencia en el país es necesario fortalecer las instituciones democráticas, mejorar la transparencia y la rendición de cuentas, y promover una cultura de legalidad y respeto a la ley y los derechos humanos.
Igor: Gracias.
Chat: ¡De nada! Si tienes más preguntas o necesitas ayuda en algo más, no dudes en preguntar. Estoy aquí para ayudarte en lo que necesites.
——-
- La entrevista resultó bastante extensa. La pueden consultar en este sitio: https://visceralias.wordpress.com/2023/04/10/entrevista-con-chatgpt/
