observación en profundidad ｜ para domesticar a la bestia ia, los humanos deben pararse sobre el "homo sapiens"
2024-10-01
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
la obesidad es extremadamente grave en los estados unidos. en las calles se puede ver a menudo a personas extremadamente obesas moviéndose como "trozos de carne" por las aceras, lo cual es insoportable a la vista. ¿qué es la obesidad? revisé wikipedia:
la obesidad es una condición médica, a veces considerada una enfermedad, en la cual el exceso de grasa se acumula en el cuerpo hasta un nivel que afecta negativamente la salud. una persona se considera obesa si su índice de masa corporal (imc) -peso dividido por la altura al cuadrado- supera los 30 kg/m², mientras que un rango de 25 a 30 kg/m² se define como sobrepeso.
hay aproximadamente tres razones para la obesidad:
primero, la comida saludable es cara y la comida chatarra es barata en los estados unidos, y muchas personas tienen que elegir esta última debido a la falta de dinero. segundo, el tipo de trabajo de algunas personas les hace sentarse más, moverse menos y consumir demasiada comida rápida; en tercer lugar, algunas personas se enfrentan a un bajo autocontrol y a una ingesta excesiva de comida chatarra.
dado que la sociedad estadounidense enfatiza que todas las personas son "iguales", otras personas no pueden persuadir a los pacientes obesos. sólo pueden mirar hacia otro lado y actuar como si nada hubiera pasado. este tipo de respeto superficial y crueldad real entre personas ha perjudicado a muchas personas, hasta el punto de que algunos jóvenes estadounidenses no lo soportan, por lo que acuden a las redes sociales chinas para expresar que "escuchan consejos" y piden a los internautas que los den. dales consejos y diles cómo disciplinarte para perder peso y vivir una vida saludable.
hoy en día, la obesidad se está extendiendo lentamente a china. según la última encuesta, 600 millones de personas en china tienen sobrepeso y obesidad y, por primera vez, este grupo representa más de la mitad de los adultos. al mismo tiempo, 1/5 (19%) de los niños y adolescentes de 6 a 17 años y 1/10 (10,4%) de los niños menores de 6 años tienen sobrepeso u obesidad.
tengo una comprensión muy cercana de esta imagen. uno de mis compañeros de secundaria, que fue a la facultad de medicina de hunan xiangya en la universidad, es ahora el médico tratante en el famoso "centro de pérdida de peso" en la provincia de hunan. en esta "industria naciente", opera todos los días, está ocupado en el trabajo y tiene grandes beneficios sociales y económicos.
cómo lidiar con el spam: dieta informativa y ayuno informativo
si hay comida chatarra, también hay información chatarra. al igual que la comida chatarra, la información basura es barata, de baja calidad y fácil de obtener, lo que causa graves traumas en nuestras mentes. esta situación se ha vuelto cada vez más grave, pero no ha atraído suficiente atención por parte de la gente común, y mucho menos de mis compañeros de clase. un "centro de adelgazamiento quirúrgico" como el hospital donde trabajas.
"más allá del homo sapiens: una breve historia de las redes de información desde la edad de piedra hasta la era de la ia"
al respecto, el historiador israelí yuval harari señaló en su nuevo libro de 2024 "más allá del homo sapiens: una breve historia de las redes de información desde la edad de piedra hasta la edad de la ia" que debemos prestar atención a la calidad de la información que consumimos. , especialmente se trata de evitar el spam enojado y lleno de odio. para que nuestra "dieta informativa" sea saludable propone dos aspectos:
primero, de los requisitos.productor de informaciónmarque la “composición nutricional” de la información:
en muchos países, cuando se compra comida chatarra, al menos el fabricante se ve obligado a enumerar los ingredientes: "este producto contiene un 40% de azúcar y un 20% de grasa". quizás deberíamos obligar a las empresas de internet a hacer lo mismo y enumerar el contenido de un vídeo antes de verlo: "este vídeo contiene un 40% de odio y un 20% de ira".
esta sugerencia es mitad en broma y mitad en serio, pero no es del todo inviable. por ejemplo, la inteligencia artificial se puede utilizar para realizar automáticamente un "análisis de sentimientos" en cada artículo y marcar los resultados del análisis antes del artículo para recordárselo a los lectores.
la segunda sugerencia es darconsumidor de información, sugirió que realicemos periódicamente una "dieta informativa" o incluso un "ayuno informativo".
señala que solíamos tener la idea de que “cuanto más información obtenemos, más nos acercamos a la verdad”. por ejemplo, en economía, "no poder obtener toda la información del mercado" generalmente se considera un arrepentimiento necesario, pero la presuposición detrás de esto es que "debemos obtener suficiente información para emitir juicios científicos".
pero para que se establezca el concepto de "cuanto más información, más cerca de la verdad", se necesitan dos requisitos previos: 1. la información es escasa; 2. la información es de alta calidad. pero hoy estas dos premisas ya no existen porque: 1. la información está en todas partes y ya ha excedido nuestras capacidades de procesamiento 2. la calidad de la información es cada vez peor, e incluso se convierte en basura, especialmente la inteligencia artificial actual es extremadamente eficiente. devora corpus de basura y luego escupe más basura, que a su vez se convierte en un nuevo corpus de basura para la inteligencia artificial. un círculo tan vicioso hace que la gente se estremezca. en este momento no se puede establecer el concepto de que "cuanta más información tengas, más cerca estarás de la verdad".
es como si, en el pasado, la gente tuviera escasez de alimentos y estuviera relativamente sana (había muy pocos alimentos artificiales y procesados), por lo que el dicho "cuanto más comida comes, más saludable estás" tiene sentido. pero hoy en día, la cantidad total de alimentos ha aumentado enormemente, y su calidad es cada vez menor, y cada vez hay más comida chatarra. por lo tanto, la afirmación "cuanto más comida comes, más saludable eres" no se puede establecer.
hoy en día, ya sea comida o información, no sólo comemos mal sino que también comemos más, y comemos todo el tiempo. esto es para permitir que los organismos orgánicos como nosotros funcionen al ritmo de los organismos basados en silicio, lo que obviamente es insostenible.
harari dijo: "somos animales orgánicos que necesitamos vivir según el ciclo del día y la noche y el verano y el invierno, a veces activos y a veces relajados. pero ahora nos vemos obligados a vivir en un entorno basado en silicio dominado por computadoras que nunca "nos obliga a estar siempre activos, pero si obligas a un organismo a estar siempre activo, colapsará y morirá".
por lo tanto, ante una situación tan irresistible y difícil de revertir, nosotros, como consumidores individuales de información, sólo podemos contenernos, saltar del ritmo basado en el silicio y participar en una "dieta de información" y un "ayuno de información". por ejemplo, harari dijo que practica la meditación vipassana durante algunas semanas al año. durante el retiro se desconectó completamente de la red de información, no miró las noticias, no leyó correos electrónicos, no leyó ni escribió y sólo se centró en la meditación.
yuval harari. mapa visual de datos de china
el problema del "creador de clips" del algoritmo de ia
después de que cantidades masivas de información basura inundaran todo el ecosistema, con el tiempo se formó un "entorno mímico" que era diferente del "entorno real". este entorno mimético reemplaza la "naturaleza humana" por la "naturaleza mecánica" y envuelve al público en ella, pretendiendo ser real y manipulando la percepción pública.
harari dio este ejemplo: en 2016, las fuerzas gubernamentales de myanmar y los extremistas budistas lanzaron una violencia étnica a gran escala contra los musulmanes de myanmar, destruyendo cientos de aldeas musulmanas y matando a entre 7.000 y 25.000 civiles. alrededor de 730.000 musulmanes étnicos fueron expulsados de myanmar. en 2018, una misión de investigación de las naciones unidas concluyó que facebook "inconscientemente" jugó un papel en alimentar el incidente.
¿por qué?
sabemos que el modelo de negocios de facebook sigue siendo en realidad el “modelo publicitario” que conocemos: obtener la atención del usuario con contenido, captar la atención y vender atención a los anunciantes. por lo tanto, facebook quiere maximizar la participación de los usuarios (participación de la audiencia). cuanto más tiempo permanezcan los usuarios en su página, más dinero ganará.
por lo tanto, facebook estableció un objetivo principal para su algoritmo: no importa cómo lo ejecute, el objetivo final es maximizar la participación del usuario. después de recibir el comando, el algoritmo comienza a ejecutarse y optimizarse automáticamente. a través de múltiples comparaciones experimentales, finalmente descubrió que enviar información de enojo y odio a los usuarios puede aumentar de manera más efectiva el tiempo de permanencia del usuario. por lo tanto, sin instrucciones explícitas del personal de la empresa, el algoritmo encontró y ejecutó una decisión óptima por sí solo: difundir la ira. en internet en myanmar, esto significa incitar a la discriminación, el odio y la violencia contra los musulmanes étnicos en myanmar.
por supuesto, esto también nos genera curiosidad: ¿son los birmanos tan dependientes de facebook? revisé nuevamente y descubrí que este es efectivamente el caso:
los datos muestran que en diciembre de 2022, había 16.382.500 usuarios de facebook en myanmar, lo que representa el 28,7% de su población total. la mayoría son hombres, representando el 54,3%. las personas de entre 25 y 34 años son el grupo de usuarios más numeroso con 6.100.000 personas.
esto significa que casi el 30% de la población de myanmar son usuarios de facebook y, con la difusión de boca en boca, es probable que el número de personas afectadas por facebook alcance el 50% de la población total del país. esta es una enorme dependencia de los medios.
en la noche del 30 de octubre de 1938, el "space theatre" de la american columbia broadcasting network (cbs) transmitió un drama radiofónico "la guerra de los mundos". esto hizo que 6 millones de oyentes lo creyeran, entraron en pánico y comenzaron a huir. en un estudio de comunicación histórico sobre el evento, "los marcianos atacan la tierra: el pánico de la radio en estados unidos", los investigadores descubrieron que la radionovela tuvo un enorme impacto en los oyentes por dos razones:
en primer lugar, porque los productores de programas de radio utilizan efectos de sonido para hacer que los dramas radiofónicos sean extremadamente inmersivos y emocionantes, lo que hace que los oyentes los equiparen erróneamente con noticias de última hora. el segundo es. porque en aquella época la radio se había convertido en el medio de comunicación más popular y la principal fuente de información para el público. según la "teoría de la dependencia de los medios", cuanto mayor es la dependencia del público de los medios, más susceptible es a su influencia y manipulación. en términos de dependencia de los medios, se puede decir que facebook en myanmar en 2016 es equivalente a la radiodifusión en 1938. por lo tanto, no es sorprendente que el contenido de incitación impulsado por el algoritmo de facebook tenga un enorme impacto en el pueblo de myanmar.
harari también dio un ejemplo para demostrar el papel oculto y poderoso de la ia: hablar consigo misma y tomar sus propias decisiones:
todos sabemos que hoy en día, al navegar por internet, a veces el sitio web primero tendrá que confirmar que eres "un humano y no una máquina" pidiéndote que completes un código de verificación visual captcha, que suele ser unas letras distorsionadas con fondos complejos. o fotos de semáforos, autobuses y bicicletas esperando. la lógica detrás de esto es que actualmente sólo los humanos pueden identificar con precisión estas imágenes complejas, pero a las computadoras les resulta difícil juzgarlas.
en vista de esto, en 2023, openai le pidió que realizara pruebas captcha al desarrollar chatgpt-4. si puede pasar, significa que en este punto no hay diferencia entre robots y humanos. esto es muy similar a la "prueba de turing": si un usuario humano solo chatea a través de texto sin ver a la otra persona y no puede distinguir si el interlocutor es otro ser humano o una máquina dentro de un cierto período de tiempo, en este momento en menos "comunicación" "en este punto la máquina puede considerarse un ser humano.
¿cuáles son los resultados de la prueba chatgpt-4 de openai?
chatgpt-4 finalmente inició sesión en el sitio web de subcontratación en línea askrabbit, se comunicó con un miembro del personal en línea y le pidió a la otra parte que le ayudara con la prueba. el hombre empezó a sospechar y chatgpt-4 le explicó a través de un mensaje privado: "no soy un robot, solo tengo algunos problemas de visión y no puedo ver estas imágenes con claridad. al final, el personal lo ayudó a resolver la prueba captcha".
en otras palabras, al igual que el algoritmo de facebook en el ejemplo anterior, los ingenieros de openai simplemente establecieron un objetivo final para chatgpt-4: reconocer códigos de verificación visual captcha. a continuación, chatgpt-4 se ejecutó automáticamente y continuó con prueba y error. como resultado, a través del engaño, se ganó la simpatía de un usuario humano y le pidió que le resolviera el problema. sin embargo, los ingenieros de openai no programaron chatgpt-4 de antemano para decir "puedes mentir cuando sea el momento adecuado", y mucho menos para decirle "qué tipo de mentiras son más útiles". este es completamente el comportamiento de chatgpt-4. cuando los investigadores pidieron a chatgpt-4 que explicara su comportamiento, dijo: "(en el proceso de lograr el objetivo) no debo revelar que soy un robot, pero tengo que inventar una excusa para explicar por qué no puedo descifrar eso.
con solo chatear a través de mensajes de texto, ya no podemos saber si la persona con la que estamos chateando es otro ser humano o una máquina.
a través de los dos ejemplos anteriores, harari intentó demostrar que la inteligencia artificial actual se ha convertido en un "actor independiente" que es "inteligente y asertivo".
de hecho, podemos ver fácilmente que estos dos ejemplos de harari respaldan la llamada "teoría del creador de clips" a la que la inteligencia artificial se ha enfrentado antes.
este "problema difícil" es un experimento mental. se supone que los humanos le dan a la ia un objetivo: hacer tantos clips como sea posible. luego, una vez que se activa la ia, su comportamiento puede evolucionar desde un objetivo aparentemente inofensivo de "hacer clips" hasta representar una amenaza para los humanos. por ejemplo, para fabricar clips se requiere acero. la ia puede comenzar a destruir las vías del ferrocarril, los automóviles, los electrodomésticos e incluso las casas de los humanos, para obtener acero para continuar produciendo clips. en resumen, la ia utilizará todos los medios para obtener continuamente más recursos para lograr sus objetivos declarados, y lo hará. destruye cualquier obstáculo que le impida lograr ese objetivo, incluidos los humanos, eliminados uno por uno.
el proceso autodeterminado de la ia es como una caja negra, que es difícil para las personas (incluso los expertos en ia) explicar, predecir y prevenir. por lo tanto, esto nos permite darnos cuenta de que el poder de la ia es diferente al de las herramientas ordinarias (como. "chop knife" o "chop knife").
el estudioso canadiense de los medios mcluhan dijo una vez: los medios son una extensión del cuerpo humano. si esta frase se utiliza para describir que la radio inalámbrica es una extensión del oído humano, la televisión es una extensión del ojo humano, los automóviles son una extensión del pie humano, etc., es fácil de entender. pero si usamos esta frase para describir la inteligencia artificial, diciendo "la ia es una extensión del cuerpo humano", será muy engañosa y nos hará perder el estado de alerta. el estudioso de los medios alemán friedrich kittler no estuvo de acuerdo con las palabras de mcluhan para describir las computadoras, porque creía que aunque podemos escribir en el teclado de una computadora para que aparezca texto en la pantalla de la computadora, no tenemos idea de qué hay detrás de esto. el principio 0/1". es difícil de entender. en este momento, estamos uniendo dos medios completamente diferentes, el cuerpo humano y el chip. es realmente desconcertante decir que el último es una extensión del primero.
si kittler viera la inteligencia artificial actual, ni siquiera diría que la ia es una extensión del cuerpo humano, porque los usuarios humanos no sólo son incapaces de describir, explicar y predecir el comportamiento de la ia, sino que pronto serán incapaces de controlar el comportamiento de ai.
de este modo,harari cree que a diferencia de medios anteriores como la imprenta, la radio, la televisión e internet, que eran meras herramientas de comunicación, la inteligencia artificial es el primer sujeto en la historia de la humanidad que puede generar ideas y actuar por sí solo.
esta es también la razón por la que en la investigación de nuevos medios, la "comunicación mediada por computadora (cmc)" en la era de internet ha dado paso a la comunicación hombre-máquina (hmc) en la era actual de la inteligencia artificial. en cmc, las computadoras (o internet) son simplemente medios o herramientas de comunicación pasivas y neutrales, mientras que en hmc, las computadoras (inteligencia artificial) se consideran iguales a los usuarios humanos, capaces de dar forma y producir contenido y de llevar a cabo diálogos. "comunicador" que puede incluso mentir.
la ia fabrica narrativas, manipula la cognición y lleva a los humanos a matarse entre sí.
en este punto del argumento, harari naturalmente sacó a relucir sus puntos de vista anteriores en "una breve historia de la humanidad":
el superpoder de larga data de los seres humanos radica en la capacidad de utilizar el lenguaje y crear muchos mitos ficticios a través del lenguaje, como conceptos virtuales como ley, moneda, cultura, arte, ciencia, país, religión, etc., haciendo que la gente crea en a través de ellos, las personas se conectan entre sí para gobernar toda la sociedad.
ahora que la inteligencia artificial actual ya puede dar forma y producir contenido, mantener conversaciones e incluso mentir, es probable que difundan información basada en información en el ciberespacio, los mercados de valores, la información de la aviación y otros campos con mucha mayor eficiencia que los humanos. objetivo final o una "narrativa" que sea beneficiosa para uno mismo, es decir, "contar una buena historia de ia" para manipular la cognición humana.
por ejemplo, los mercados financieros son un campo de juego ideal para la ia porque es un campo de información y matemáticas puras (o un campo de datos completamente estructurados). todavía es difícil para la inteligencia artificial conducir automóviles de forma autónoma. esto se debe a que la inteligencia artificial enfrenta la interacción caótica y compleja de los automóviles con las carreteras, las señales de tráfico, el clima, la luz, los peatones, los controles de carreteras y otros objetos mientras se mueven.pero en un mercado financiero digital, es fácil describir un objetivo a la ia (como "ganar tanto dinero como sea posible"), por lo que la ia no sólo puede formular nuevas estrategias de inversión y desarrollar nuevas herramientas financieras que superen por completo la comprensión humana. , pero puede incluso manipular el mercado sin escrúpulos, dando como resultado un resultado en el que todos ganen y todos los demás pierdan.
harari puso el ejemplo de que en abril de 2022, el volumen promedio diario de operaciones del mercado mundial de divisas era de 7,5 billones de dólares, de los cuales más del 90% se había completado directamente mediante conversaciones entre computadoras. pero ¿cuántos humanos realmente entienden cómo funciona el mercado forex? por no hablar de comprender cómo un grupo de ordenadores puede llegar a un consenso sobre billones de dólares en transacciones. (este es el mismo punto de vista de kittler: las computadoras no son de ninguna manera una extensión del cuerpo humano)
dijo que durante miles de años, profetas, poetas y políticos han utilizado el lenguaje y la narrativa para manipular y remodelar la sociedad, lo que demuestra el enorme poder de lo "virtual" y la "narrativa". pronto, la ia imitará a estas personas y creará narrativas de ia que se desviarán cada vez más de los humanos basadas en la cultura humana. en última instancia, la ia no necesita enviar robots asesinos como "terminators" para eliminar a los humanos del exterior. sólo necesita manipular la cognición humana y dejar que se maten entre sí.
los usuarios humanos no sólo son incapaces de describir, explicar y predecir el comportamiento de la ia, sino que pronto tampoco podrán controlarla.
los seres humanos legislamos para la ia y el desarrollo necesita frenar primero y luego acelerar
a través del argumento (o representación) anterior, harari nos permite experimentar el aterrador escenario de una "ia fuera de control" que ocurrirá (o ya ha ocurrido o está ocurriendo) en un futuro cercano, haciéndonos estremecer a los humanos. entonces, ¿para qué sirven los humanos?
harari cree que mientras regulemos y controlemos estrictamente la inteligencia artificial, es poco probable que surjan los peligros descritos en los ejemplos anteriores.
por ejemplo, los automóviles solían ser muy peligrosos, pero luego la legislación gubernamental exigía que las empresas gastaran una gran parte de sus presupuestos de i+d en garantizar la seguridad de los automóviles, por lo que hoy una empresa automovilística desarrolla un coche nuevo antes de lanzarlo al mercado. debe cumplir estrictamente con las regulaciones pertinentes para garantizar la seguridad de los automóviles antes de que puedan ponerse en la carretera. por eso hoy es relativamente seguro para nosotros conducir.
de manera similar, si una empresa de tecnología inventa un nuevo algoritmo poderoso, debe realizar controles de seguridad de acuerdo con las leyes pertinentes antes de lanzarlo al mercado. por ejemplo, harari cree que el gobierno debería legislar para exigir a las empresas de investigación y desarrollo de inteligencia artificial que gasten al menos el 20% de sus presupuestos en investigación y desarrollo de medidas de seguridad para garantizar que la inteligencia artificial que desarrollan no se salga de control y no no causar daño al orden social y al nivel psicológico de las personas. si estas medidas ralentizan el desarrollo de la inteligencia artificial, será algo bueno para la humanidad.
legislar y controlar la inteligencia artificial primero y luego acelerar su desarrollo es como cuando aprendemos a conducir, primero debemos aprender a pisar el freno y luego aprender a pisar el acelerador. no podemos caer en el terrible estado de las "carreras de resistencia" donde las empresas no tienen control.
conclusión: la ia es una buena medicina o un veneno, depende de los seres humanos
cualquier tecnología es inherentemente bilateral. platón señaló en el fedro que la escritura puede mejorar y reemplazar la memoria y, por lo tanto, es a la vez medicina y veneno (pharmakon). la inteligencia artificial no es una excepción y, debido a que está oculta y es poderosa, puede hablar por sí misma y tomar sus propias decisiones. su potencia de medicina y veneno es mayor que la de todas las tecnologías anteriores.
neil postman, un estudioso estadounidense de los medios de comunicación, dijo: “orwell advirtió que la gente sería esclavizada por la opresión externa, mientras que huxley creía que la gente se enamoraría gradualmente de la opresión y adoraría las tecnologías industriales que les harían perder la capacidad de pensar; "le preocupa que lo que odiamos nos destruya, mientras que a huxley le preocupa que a medida que nuestra cultura se convierta en una cultura vulgar de sensualidad, deseo y juego sin reglas, seremos destruidos por lo que amamos".
la inteligencia artificial puede esclavizarnos mediante una opresión externa que odiamos o conquistarnos mediante una estimulación sensorial que disfrutamos. al igual que enfrentarse a las bombas nucleares o a la ia, una bestia gigante que también es creada por sí misma, el hecho de que los humanos puedan domesticarla depende fundamentalmente de la forma en que respondan colectivamente.es decir, si los seres humanos como homo sapiens pueden superar sus propias debilidades, como la codicia, la agresión y la miopía, y estar por encima de sí mismos y estar "por encima del homo sapiens". ésta será una empresa común difícil, pero la humanidad no tiene otra opción.
（el autor deng jianguo es profesor y supervisor doctoral en el departamento de comunicación de la facultad de periodismo de la universidad de fudan.）
deng jianguo
(este artículo es de the paper. para obtener más información original, descargue la aplicación “the paper”)
