California construye el futuro para bien y para mal. ¿Entonces que?

Si bien el grupo de trabajo no puso una cifra exacta sobre cómo los descendientes de esclavos compensarían la captura excesiva, el encarcelamiento masivo y la discriminación en la vivienda, los economistas que lo asesoraron estiman que las pérdidas para la población negra del estado podrían ascender a cientos de miles de millones. de dólares No se especifica si la compensación será realmente aprobada.

La conversación sobre las reparaciones muestra que California tiene una capacidad única para hacer frente a su turbulenta historia. Pero este pensamiento no siempre se extiende hacia el futuro. Los sistemas de inteligencia artificial se utilizan para modificar el contenido de las redes sociales, evaluar solicitudes universitarias, peinar currículums para empleo, crear fotos y obras de arte falsas, interpretar datos de movimiento recopilados en el área fronteriza e identificar sospechosos en investigaciones criminales. Los paradigmas lingüísticos como ChatGPT, creado por OpenAI con sede en San Francisco, también han llamado mucho la atención por su potencial para alterar áreas como el diseño, el derecho y la educación.

Pero si el éxito de la IA se puede medir en valoraciones de miles de millones de dólares y lucrativas OPI, sus fracasos los soporta la gente común. Los sistemas de IA no son neutrales; Están capacitados en grandes conjuntos de datos que incluyen, por ejemplo, material de explotación sexual o declaraciones condicionales discriminatorias. Como resultado, reproducen y amplifican los peores prejuicios de nuestra sociedad. Por ejemplo, el software de reconocimiento de raza utilizado en las investigaciones policiales suele identificar erróneamente a las personas negras y marrones. Es más probable que los prestamistas hipotecarios basados ​​en IA rechacen préstamos hipotecarios a personas de color, lo que ayuda a perpetuar la desigualdad en la vivienda.

Este puede parecer un momento en el que podemos aplicar el pensamiento histórico a la cuestión de la tecnología, para que podamos evitar que las injusticias de los cambios de paradigma pasados ​​vuelvan a ocurrir. En abril, dos legisladores presentaron un proyecto de ley en la cámara estatal que intenta prohibir el sesgo algorítmico. El Writers Guild of America, que actualmente está en huelga, incluyó restricciones en el uso de IA en sus demandas. La resistencia al exceso también proviene de la industria tecnológica. Hace tres años, Timnit Gebru, jefe del equipo de inteligencia artificial ética de Google, fue despedido después de hacer sonar la alarma sobre los peligros de los paradigmas lingüísticos como GPT-3. Pero ahora incluso los ejecutivos de tecnología se están volviendo cautelosos: al testificar ante el Senado, el director ejecutivo de OpenAI, Sam Altman, reconoció que los sistemas de IA necesitan regulación.

La pregunta que enfrentamos tanto con la compensación como con la IA al final no es muy diferente de la que surgió cuando un fraile franciscano emprendió el Camino Real en 1769. No es tanto “¿Cómo será el futuro?” – Aunque esta es una pregunta emocionante – pero “¿Quién tendrá derecho al futuro? ¿A quién podría servir la reforma social o la nueva tecnología, y quién podría verse perjudicado? “La respuesta puede decidirse en California.

Layla al-Lami Es autor de cuatro novelas, entre ellas Los otros americanos. Su libro más reciente es una obra de no ficción, Policía Ciudadana. Vive en Los Ángeles. Benjamín una vez Ilustrador, dibujante y director de arte. Sus ilustraciones para “Roadside Strangers: Acid Nightmares” fueron nominadas para la Colección Numero.