En los últimos años, la inteligencia artificial ha entrado en el firmamento de la tecnología. La IA está revolucionando el derecho, la salud, la educación y varios modelos comerciales.
El avance del big data y el aprendizaje automático está cambiando la forma en que nos acercamos a la inteligencia artificial. Rishi BommasaniPercy Liang y sus colegas de la Universidad de Stanford dicen que este cambio de paradigma ha permitido que la inteligencia artificial se vuelva excelente para una amplia gama de aplicaciones más allá de lo que se creó originalmente, como el procesamiento del lenguaje natural (NLP) utilizado en chatbots como Siri o Alexa, o la clasificación de imágenes. . Sin embargo, esto nos llevará rápidamente a una crisis.
Los modelos de IA tienen un gran potencial y pueden ser excelentes en algunos casos, pero también conllevan riesgos importantes. "A pesar de la inminente difusión de estos modelos", dicen Bommasani y sus colegas, "actualmente no tenemos una comprensión clara de cómo funcionan, cuándo fallan y cuáles son sus capacidades".
Es por eso que el equipo decidió explorar la naturaleza de los modelos subyacentes para prevenir su futura crisis., y sus conclusiones son realmente interesantes.
Comportamiento emergente, crisis (in) predecibles?
Un problema con estos modelos es que su comportamiento es más emergente que diseñado. Por tanto, no siempre es posible saber qué harán estos sistemas o cuándo entrarán en crisis. "Esto es tanto una fuente de entusiasmo científico como de ansiedad por las consecuencias imprevistas", dicen los investigadores.
Otro problema es que estos modelos son ahora la base de muchos otros. Esto significa que se pueden aplicar a una amplia gama de circunstancias, pero también que cualquier problema permanece presente: son heredados por todos los descendientes. Y los entornos con fines de lucro de las nuevas empresas y las grandes corporaciones no son necesariamente los mejores lugares para explorar los problemas potenciales de la IA.
El incentivo comercial puede llevar a las empresas a ignorar las consecuencias sociales de la futura crisis. Estoy pensando en el cambio tecnológico del trabajo, la salud de un ecosistema de información necesario para la democracia, el costo ambiental de los recursos de información y la venta de tecnologías a regímenes no democráticos.
Rishi Bommasani, Universidad Stanford
Una fiebre del oro
Al desarrollar un nuevo producto, el impulso de ser el primero a menudo anula todas las demás consideraciones y lleva a los equipos por caminos que son difíciles de justificar. El equipo da un ejemplo de este comportamiento al cuestionar el uso por IA de Clearview de fotos de Internet para el desarrollo de software de reconocimiento facial. Esto se hace sin el consentimiento de los propietarios o empresas de alojamiento de imágenes. Luego, Clearview vendió el software a organizaciones como departamentos de policía.
Crisis y consecuencias insidiosas
Las consecuencias de la crisis por el uso generalizado de modelos inteligencia artificial podrían ser aún más insidiosos. "Como tecnología incipiente, las reglas para el desarrollo responsable y la implementación del modelo subyacente aún no están bien establecidas", dicen los investigadores.
Todo esto debe cambiar y rápidamente. Bommasani y compañía dicen que la comunidad académica está bien preparada para asumir el desafío de la futura crisis de identidad de la IA. Está listo porque reúne a académicos de una amplia gama de disciplinas sin ánimo de lucro. “La academia juega un papel crucial en el desarrollo de modelos de IA que promueven los beneficios sociales y mitigan los posibles daños de su introducción. Las universidades también pueden contribuir a la definición de estándares mediante la creación de comités de revisión ética y el desarrollo de sus propios modelos virtuosos ".
Será un trabajo importante
Asegurar el uso justo y equitativo de la IA debe ser una prioridad para las democracias modernas, entre otras cosas porque La inteligencia artificial tiene el potencial de amenazar los medios de vida de una parte significativa de la población mundial. Con la cuarta revolución industrial acercándose rápidamente, es difícil saber qué trabajos estarán a salvo de la automatización. Es probable que pocos puestos de trabajo no se vean afectados por la toma de decisiones automatizada en el futuro, una crisis, como se mencionó, que debe evitarse.
