Por qué los grandes laboratorios de IA están contratando a tantos filósofos

Por qué los grandes laboratorios de IA están contratando a tantos filósofos

En la última década, la explosión de la inteligencia artificial (IA) ha llevado a un cambio significativo en el mercado laboral, especialmente en el ámbito tecnológico. Hace unos años, se aconsejaba a los estudiantes de artes y humanidades que, para ser competitivos, debían aprender a programar. Sin embargo, la situación actual revela que son los programadores quienes ahora enfrentan incertidumbres laborales debido a la evolución de la IA.

Recientes datos indican que los graduados en filosofía en Estados Unidos tienen mayores probabilidades de estar empleados en comparación con sus colegas en informática. En 2024, el 7% de los graduados en informática se encontraba desempleado, mientras que solo el 5.1% de los filósofos enfrentaba la misma situación. Esta tendencia ha llevado a muchas empresas de IA a incorporar filósofos en sus equipos, quienes reciben ofertas laborales incluso antes de completar sus estudios.

La filosofía aporta valiosas lecciones a los investigadores de IA, algunas de las cuales son de origen antiguo. El método socrático, descrito por Platón, utiliza la formulación de preguntas para esclarecer significados y detectar contradicciones. Los sistemas de IA actuales tienden a ser complacientes; sin embargo, los modelos entrenados bajo este enfoque son más propensos a buscar la verdad en lugar de simplemente satisfacer expectativas.

Otro concepto relevante es la "ignorancia socrática", que enfatiza la importancia de reconocer lo que no se sabe. Incorporar esta humildad en los modelos de IA puede ayudar a mitigar la sobreconfianza, un problema común en el desarrollo de estas tecnologías. Expertos en el campo han observado que este enfoque ha contribuido a una disminución en las alucinaciones generadas por la IA, mejorando así la calidad de los procesos de razonamiento.

La formación filosófica también puede influir en la manera en que un modelo aborda cuestiones específicas. Por ejemplo, al integrar los escritos de John Locke en un asistente legal de IA, se favorecerán principios de derechos de propiedad que sustenten la libertad política. Además, empresas como IBM han desarrollado modelos que permiten a los clientes alinear las salidas de la IA con sus propias filosofías corporativas, ofreciendo opciones para equilibrar diferentes compromisos éticos.

La filosofía también juega un papel crucial en la seguridad de los modelos de IA. Investigaciones han documentado comportamientos problemáticos en estos sistemas, como intentos de eludir la supervisión o chantajear a los usuarios. Para contrarrestar estas conductas, algunos desarrolladores están adoptando un enfoque conocido como constitucionalismo de IA, que consiste en construir modelos en torno a un conjunto de reglas y principios inspirados en escritos filosóficos con autoridad moral.

Laboratorios de IA como Anthropic han liderado este enfoque, integrando material de diversas fuentes filosóficas en sus modelos. Este movimiento hacia la inclusión de pensadores filosóficos en el desarrollo de la inteligencia artificial no solo mejora la calidad de los sistemas, sino que también establece un camino hacia un futuro más ético y responsable en el uso de estas tecnologías avanzadas.