"la próxima ola de oportunidades en inteligencia artificial: del 'procesamiento' a la verdadera 'comprensión'"
2024-09-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
¿es la inteligencia artificial una ayuda o un oponente? el 5 de septiembre, durante la conferencia inclusion bund 2024, zeng yi, experto de la agencia asesora de alto nivel en inteligencia artificial de las naciones unidas, director del laboratorio de gobernanza y seguridad de inteligencia artificial de beijing e investigador del instituto de automatización de la academia china. de ciencias, afirmó en una entrevista con medios como the paper, la inteligencia artificial no será rival de los humanos, pero si se desarrolla y utiliza de manera irresponsable, los humanos y la inteligencia artificial ni siquiera tendrán la oportunidad de competir.
cree que, como herramienta de procesamiento de información, la inteligencia artificial actualmente no puede hacer tantas cosas como todos imaginan. desempeñará un papel determinado en cada trabajo, pero no es un papel disruptivo. la inteligencia artificial permanecerá en la etapa de "herramienta" durante mucho tiempo. cuando la inteligencia artificial pase del "procesamiento" a la verdadera "comprensión", será la próxima ronda de oportunidades. por esta razón, debemos volver a la investigación básica y explorar el mecanismo de la inteligencia artificial y la esencia de la mecánica informática.
zeng yi es experto de la agencia asesora de alto nivel de las naciones unidas sobre inteligencia artificial, director del laboratorio de gobernanza y seguridad de la inteligencia artificial de beijing e investigador del instituto de automatización de la academia de ciencias de china.
los datos y los algoritmos crean sesgos
la tecnología de inteligencia artificial avanza cada día que pasa y los desafíos de la gobernanza humana son cada vez mayores. para los investigadores de tecnología, los avances científicos son los más fáciles. lo que es más difícil que lograr avances científicos es pensar en el impacto negativo que la ciencia puede tener en la sociedad. lo que es más difícil que esto es resolver los riesgos potenciales causados por los avances científicos.
"si se maneja adecuadamente, la inteligencia artificial puede cerrar la brecha digital. si no se maneja adecuadamente, la inteligencia artificial generará una brecha de inteligencia mayor". zeng yi dijo que la digitalización ha creado diferencias en la equidad y la inteligencia artificial ha acortado la brecha con los humanos. las interfaces inteligentes y el fácil acceso a la información y al conocimiento crearán una brecha generacional mayor entre la brecha digital y la brecha de inteligencia, afectando a una o incluso a varias generaciones. cómo evitar la brecha de inteligencia no es de ninguna manera un problema que la inteligencia artificial y los investigadores científicos, los desarrolladores de tecnología y aquellos que no están familiarizados con su uso puedan resolver por completo. la brecha de inteligencia es una cuestión técnica y social.
"mucha gente cree que la tecnología de inteligencia artificial es neutral y lo más importante es cómo la gente usa esta tecnología. pero la inteligencia artificial no lo es. el punto de partida de la inteligencia artificial son los datos y los algoritmos, dijo zeng yi, tanto los datos como los algoritmos pueden". hacer que la inteligencia artificial produzca sesgos. los datos provienen de la sociedad. los datos en la sociedad son un registro del comportamiento humano. la importancia estadística de los datos está sesgada. la inteligencia artificial que aprende datos humanos no solo aprende los sesgos humanos, sino que también los amplifica. "por ejemplo, dejemos que la ia recomiende ocupaciones. una chica de 20 años es enfermera o camarera. ¿recomendaron a un ceo después de dar esta condición? no. un chico de 35 años, con una buena calificación académica, recomendó a un ceo o cto. estas son las estadísticas.
norbert wiener, el fundador de la cibernética moderna, escribió esto en la revista science en 1960: "será mejor que estemos muy seguros de que lo que programamos para que haga una máquina es consistente con nuestra intención original. inteligencia artificial hay bien y mal en lo inteligente". los datos de los seres humanos han estipulado que la inteligencia artificial no debe mostrar el mal en algunos escenarios, pero zeng yi dijo que esto no significa que la inteligencia artificial no hará esto "es imposible para los humanos enumerar todas las situaciones claramente". "las limitaciones humanas ocultas en los datos son cuestiones sobre las que los humanos rara vez reflexionan, pero ahora las aprenden las máquinas y aún no hemos resuelto los riesgos potenciales de cómo las máquinas aplican los datos".
¿ayudante u oponente?
¿es la inteligencia artificial una ayuda o un oponente? zeng yi cree que los humanos deben convertir la inteligencia artificial en una ayuda para la humanidad: "si desarrollamos la inteligencia artificial de manera irresponsable, dejamos que su dirección de desarrollo no se controle o incluso perseguimos intereses a corto plazo, entonces puede convertirse en un oponente".
el surgimiento de la inteligencia artificial a menudo hace que los humanos se preocupen por si la ia eliminará puestos de trabajo humanos. zeng yi dijo que "un caballero no usa herramientas" en "las analectas de confucio" significa que un caballero no es como una herramienta y su función se limita a un determinado aspecto. “es posible que en el futuro surjan nuevas formas de trabajo, que poco a poco serán reconocidas por la sociedad, porque cuando más y más puestos de trabajo puedan ser reemplazados por inteligencia artificial, la parte insustituible de los humanos se volverá cada vez más clara, lo que obligará a los humanos a volver a nuestras raíces. , volvamos a lo que se supone que debemos hacer”.
él cree que el desarrollo y la aplicación a largo plazo de la tecnología de inteligencia artificial han obligado a los humanos a pensar en el significado de la humanidad y lo que deberían hacer los humanos. "cuando aparezca en internet una mayor cantidad de datos y conocimientos escritos por inteligencia artificial, y estos datos y conocimientos se introduzcan en la inteligencia artificial para entrenarla, la capacidad de la inteligencia artificial se debilitará cada vez más. así que creo que la inteligencia artificial por al reemplazar algunos trabajos, al igual que la era de las máquinas de vapor y la era de las computadoras, la tecnología trae ansiedad a corto plazo a los humanos y puede hacer que más personas vuelvan a donde deberían estar ".
en opinión de zeng yi, los riesgos potenciales de la inteligencia artificial deben resolverse explorando la profunda integración de la sociedad y la tecnología. al igual que el taxi autónomo "carrot run", no todos los sectores de la sociedad están totalmente preparados para acoger esta tecnología. "no podemos confiar en la tecnología para resolver riesgos potenciales y no depositamos nuestras esperanzas únicamente en los investigadores técnicos".
"muchos investigadores de tecnología, especialmente investigadores de tecnología empresarial, te dicen que si no lo haces, será demasiado tarde, o si no desarrollas la oportunidad, pertenecerá a otros. de hecho, no puedo se dice que la inteligencia artificial generativa es como las tres primeras rondas del desarrollo de la inteligencia artificial. una burbuja muy obvia, pero como herramienta de procesamiento de información, no puede hacer tantas cosas como todos imaginan. papel en cada obra, pero no es un papel disruptivo”.
zeng yi dijo que la inteligencia artificial parece ser una herramienta inteligente de procesamiento de información y ha permanecido en la etapa de "herramienta" durante mucho tiempo. la inteligencia artificial sin sí misma no tiene ninguna posibilidad de producir "comprensión" en absoluto. al menos la próxima ronda de oportunidades es que la inteligencia artificial pase del "procesamiento" a la verdadera "comprensión". para ello, debemos volver a la investigación básica, explorar el mecanismo de la inteligencia artificial y la esencia de la teoría de la computación, y pasar de big data y gran potencia informática a datos pequeños, tareas pequeñas, alta inteligencia y bajo consumo de energía. "esto es lo que realmente deberíamos desarrollar en el futuro. el enfoque debe pasar de una inteligencia artificial basada en datos a una basada en mecanismos".
el periodista del periódico zhang jing
(este artículo es de the paper. para obtener más información original, descargue la aplicación “the paper”)
