En los últimos años, la inteligencia artificial ha entrado en el firmamento de la tecnología. AI está revolucionando la ley, la atención médica, la educación y varios modelos comerciales.
El avance de los grandes datos y el aprendizaje automático está cambiando la forma en que abordamos la inteligencia artificial. Rishi BommasaniPercy Liang y sus colegas de la Universidad de Stanford dicen que este cambio de paradigma ha permitido que la inteligencia artificial se vuelva excelente para una amplia gama de aplicaciones más allá de lo que se creó originalmente, como el procesamiento del lenguaje natural (NLP) utilizado en chatbots como Siri o Alexa, o la clasificación de imágenes. . Sin embargo, esto nos llevará rápidamente a una crisis.
Los modelos de IA tienen un gran potencial y pueden ser excelentes en algunos casos, pero también conllevan riesgos significativos. "A pesar de la inminente difusión de estos modelos", dicen Bommasani y sus colegas, "actualmente no tenemos una comprensión clara de cómo funcionan, cuándo fallan y cuáles son sus capacidades".
Es por eso que el equipo decidió explorar la naturaleza de los modelos subyacentes para prevenir su futura crisis., y sus conclusiones son realmente interesantes.
Comportamiento emergente, crisis (in) predecibles?
Un problema con estos modelos es que su comportamiento es emergente en lugar de diseñado. Por lo tanto, no siempre es posible saber qué harán estos sistemas o cuándo entrarán en crisis. "Esto es tanto una fuente de entusiasmo científico como de ansiedad por las consecuencias imprevistas", dicen los investigadores.
Otro problema es que estos modelos son ahora la base de muchos otros. Esto significa que pueden aplicarse a una amplia gama de circunstancias, pero también que cualquier problema permanece presente: son heredados por todos los descendientes. Y los entornos orientados a las ganancias de las nuevas empresas y las grandes corporaciones no son necesariamente los mejores lugares para explorar los problemas potenciales de la IA.
El incentivo comercial puede llevar a las empresas a ignorar las consecuencias sociales de la futura crisis. Estoy pensando en el cambio tecnológico del trabajo, la salud de un ecosistema de información necesario para la democracia, el costo ambiental de los recursos de información y la venta de tecnologías a regímenes no democráticos.
Rishi Bommasani, Universidad Stanford
una fiebre del oro
Al desarrollar un nuevo producto, el deseo de ser el primero a menudo anula todas las demás consideraciones y lleva a los equipos por caminos que son difíciles de justificar. El equipo da un ejemplo de este comportamiento al disputar el uso por IA de Clearview de fotos de Internet para el desarrollo de software de reconocimiento facial. Esto se hace sin el consentimiento de los propietarios o empresas de alojamiento de imágenes. Luego, Clearview vendió el software a organizaciones como departamentos de policía.
Crisis y consecuencias insidiosas
Las consecuencias de la crisis por el uso generalizado de modelos inteligencia artificial podrían ser aún más insidiosos. «Como tecnología incipiente, las normas para el desarrollo y la aplicación responsables del modelo subyacente aún no están bien establecidas», afirman los investigadores.
Todo esto debe cambiar y rápidamente. Bommasani y compañía dicen que la comunidad académica está bien preparada para asumir el desafío de la futura crisis de identidad de la IA. Está listo porque reúne a académicos de una amplia gama de disciplinas que no tienen fines de lucro. "La academia juega un papel crucial en el desarrollo de modelos de IA que promuevan los beneficios sociales y mitiguen los posibles daños de su introducción. Las universidades y las universidades también pueden ayudar a establecer estándares mediante el establecimiento de comités de revisión de ética y el desarrollo de sus propios modelos virtuosos".
Será un trabajo importante
Garantizar el uso justo y equitativo de la IA debe ser una prioridad para las democracias modernas, sobre todo porque La inteligencia artificial tiene el potencial de amenazar los medios de subsistencia de una parte importante de la población mundial. Con la cuarta revolución industrial acercándose rápidamente, es difícil saber qué trabajos estarán a salvo de la automatización. Es probable que pocos puestos de trabajo no se vean afectados por la toma de decisiones automatizada en el futuro, una crisis, como se mencionó, que debe evitarse.
