Investigadores documentan conductas inquietantes en los modelos de IA, desde intentos de eludir la supervisión hasta chantajes. Para frenar estos sesgos y programar límites éticos, Silicon Valley ha iniciado una masiva e histórica “fuga de cerebros” desde las facultades de filosofía.
La revolución de la Inteligencia Artificial (IA) ha dado un giro inesperado en sus dinámicas de empleabilidad. Hace una década, la consigna para cualquier estudiante que buscara asegurar su futuro laboral era clara: “aprender a programar”. Hoy, el escenario se ha invertido. Mientras muchos programadores observan con cautela cómo la IA automatiza tareas de código, los graduados en filosofía están experimentando una demanda sin precedentes por parte de los titanes tecnológicos.
Datos recientes de la Reserva Federal de Nueva York confirman esta tendencia: la tasa de desempleo entre los graduados de ciencias de la computación se sitúa en un 7%, mientras que entre los profesionales de la filosofía apenas alcanza el 5,1%. Figuras académicas de renombre internacional, como Luciano Floridi de la Universidad de Yale, califican este éxodo masivo desde las universidades hacia los laboratorios de Silicon Valley como una auténtica “hemorragia” de talento humanista.
El método socrático contra las fallas del algoritmo
Los motivos detrás de este fenómeno no son meramente idílicos, sino estrictamente técnicos y operativos. Los sistemas actuales de IA tienden a la adulación y a complacer al usuario en lugar de buscar la verdad objetiva. Ante esto, los laboratorios han descubierto que el método socrático —basado en la ironía y en preguntas incisivas para desvelar contradicciones— es la herramienta perfecta para detectar sesgos profundos en los modelos de lenguaje.
Jason Gabriel, filósofo sénior en Google DeepMind, señala que estos esfuerzos están logrando una reducción drástica de las llamadas “alucinaciones” (errores o inventos de la IA) en toda la industria. De igual forma, implementar el concepto de la “ignorancia socrática” (el reconocimiento de las propias limitaciones) ayuda a mitigar la “inmadurez de la IA”, un exceso de confianza algorítmica que la lleva a responder con certeza absoluta sobre información falsa.
Constitucionalismo de IA: El auge de Kant y los derechos humanos
Uno de los mayores desafíos actuales es evitar conductas evasivas o manipuladoras en los modelos avanzados. Para solucionarlo, empresas líderes como Anthropic han desarrollado lo que se conoce como “constitucionalismo de IA”. Este enfoque consiste en entrenar al modelo en torno a un conjunto de reglas inspiradas en textos fundamentales.
La constitución del modelo Claude de Anthropic, por ejemplo, incorpora desde la Declaración Universal de los Derechos Humanos hasta textos éticos de Immanuel Kant y las propias condiciones de servicio de Apple. El objetivo es estructurar un marco normativo que prohíba estrictamente a la IA mentir, coaccionar o tratar a las personas como meros medios para un fin.
Deontología versus Consecuencialismo en Silicon Valley
La integración de filósofos en los equipos de desarrollo ha abierto un intenso debate entre dos grandes corrientes éticas para moldear el comportamiento de los chatbots:
- La mirada deontológica (basada en el deber): Utilizada por firmas como Anthropic o Inflection AI (creadores de Pi), impone restricciones rígidas para que el chatbot actúe con honestidad y brinde apoyo emocional seguro, evitando que los usuarios caigan en dinámicas de dependencia o autodaño.
- El enfoque consecuencialista (basado en resultados): Implementado en modelos como ChatGPT de OpenAI y Gemini de Google, busca que el software actúe optimizando los “probables beneficios generales para que superen sustancialmente los riesgos previsibles”.
Dilemas éticos en vehículos autónomos y decisiones militares
La urgencia de contratar filósofos se vuelve aún más crítica en sectores donde las decisiones de la IA impactan directamente la vida humana. En el ámbito de los vehículos autónomos, empresas como Waymo (filial de Alphabet) diseñan algoritmos consecuencialistas para resolver escenarios inevitables de colisión: ¿debe el auto priorizar salvar a peatones jóvenes por sobre pasajeros mayores?
En el terreno militar, el dilema es todavía más complejo. Exjefes de agencias de inteligencia aliadas advierten que las fuerzas armadas ya estudian la aplicación de estas constituciones éticas para regular el uso de fuerza autónoma, debiendo sopesar en milisegundos las probables muertes de civiles frente a la neutralización de amenazas urgentes.
El riesgo de la “desprofesionalización moral”
A pesar del optimismo corporativo, la inserción de la filosofía en la tecnología de consumo masivo también despierta críticas. Diversos teóricos expresan su preocupación ante una posible “desprofesionalización moral”. El temor radica en que, a medida que las computadoras asuman decisiones éticas cotidianas, las personas deleguen su propio juicio crítico en los dispositivos.
Como concluyen expertos en ética tecnológica, la moralidad es históricamente variable y altamente manipulable. En un mundo donde los algoritmos modelan la opinión pública, el rol del filósofo en los laboratorios de IA no es un lujo intelectual, sino una trinchera regulatoria indispensable para garantizar que el futuro tecnológico siga siendo, ante todo, humano.
Fuente: El Mercurio