noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Al perder contra la IA, siento que todo mi mundo se ha derrumbado.

dijo Lee Sedol en una entrevista reciente con el New York Times.

En 2016, el 14 veces campeón del mundo de ajedrez coreano representó a humanos en una partida contra AlphaGo de Google y finalmente perdió 1:4.

Cuando aceptó la invitación pensó que sería una experiencia "divertida":

La premisa de la diversión es que creo que ganaré. Nunca pensé que perdería.

Ese fue probablemente uno de los aspectos más importantes antes de que la tecnología de inteligencia artificial debutara en ChatGPT.

Ahora han pasado menos de dos años desde el lanzamiento de ChatGPT. Hemos visto muchos campos afectados por la IA y más aspectos de la vida parecen haber sido presagiados para cambios. No podemos evitar querer especular e imaginar el futuro. AI.

En este contexto, el mundo Go, que se vio afectado por la IA antes que otras industrias y campos, puede ayudarnos a ver una posibilidad que ya ocurrió.

Después de derrotar a los humanos, una IA más fuerte deshumaniza aún más

Ya no pude disfrutar de Go, así que me retiré.

Tres años después de jugar contra AlphaGo, Lee Sedol anunció oficialmente su retiro.

Para Lee Sedol, que empezó a aprender Go a la edad de 5 años, el Go no es sólo una competición, sino un arte, una extensión de la personalidad y el estilo del jugador. Sin embargo, en la era de la IA, se ha "reducido" a. Un juego de eficiencia algorítmica.

Durante estos tres años, realmente sucedió otra cosa.

En 2017, DeepMind anunció una nueva versión de AlphaGo: AlphaGo Zero.

AlphaGo nació del aprendizaje y la autopráctica de la red neuronal de más de 30 millones de movimientos por parte de maestros humanos, pero AlphaGo Zero estuvo separado del "toque humano" desde el principio Durante el período de entrenamiento, no entró en contacto con ninguno. récords de ajedrez humanos y dependía únicamente de sí mismo y de su propio entrenamiento de ajedrez.

En sólo tres días, AlphaGo Zero ya ganó 100:0 contra AlphaGo.

The Atlantic lo llama "IA que no necesita aprender nada de los humanos".

En Go, hay una técnica que parece simple o intrascendente, pero que a la larga puede suponer una amenaza mortal. Algunas personas dirían que es como un "fantasma".

Los registros del juego de AlphaGo y AlphaGo Zero son tan difíciles de entender que se los considera directamente como "una guía misteriosa abandonada por una civilización alienígena".

El jugador de ajedrez profesional estadounidense Michael Redmond dijo en 2017 que uno de los medios importantes para que los humanos aprendan Go es construir una historia: "Así es como nos comunicamos. Es algo muy humano".

Esto también puede hacer eco del punto de Lee Sedol de que cuando juegan ajedrez, los jugadores también muestran parte de sí mismos como seres humanos.

Redmond añadió que, basándose en sus propias observaciones, es probable que los jugadores de ajedrez humanos "levanten las manos y se rindan" cuando ven por primera vez un ajedrez "con sabor a IA":

La forma en que AlphaGo juega al ajedrez siempre se siente muy "inhumana". Ante un juego de ajedrez así, incluso nos resulta difícil involucrarnos.

Como uno de los primeros maestros de Go en verse afectado, Lee Sedol no pudo soltarse durante mucho tiempo.

Se obsesionó con la IA.

Después de jubilarse, además de abrir su propia academia de Go, publicar libros y lanzar juegos de mesa basados ​​en Go, Lee Sedol también comenzó a dar conferencias sobre IA:

Comencé a enfrentar problemas de IA desde muy temprano y otros también los experimentarán. Puede que eso no conduzca a un final feliz.

Para él, el aspecto más preocupante de la IA es que puede cambiar los valores humanos:

En el pasado, la gente estaba asombrada por la creatividad, la originalidad y la innovación, pero desde la llegada de la IA, gran parte de esto ha desaparecido.

No todo el mundo está de acuerdo con esta afirmación.

La era de la cocreación hombre-máquina

La IA destruyó todo el orden existente en el mundo de Go y luego comenzó a reconstruirlo.

dijo Jiuheng He, un entusiasta del Go que estudia inteligencia artificial en la Universidad de Cornell.

En muchas academias de Go, usar la IA para aprender Go es un proceso por el que casi todos los jugadores deben pasar.

En una academia de Go en Hong Kong, Ng Chee Man proporciona a los estudiantes iPads para aprender Go usando IA.

Cada vez que un estudiante juega ajedrez, la IA mostrará las sugerencias de "mejores movimientos". Al mismo tiempo, el sistema también registrará qué movimientos hizo bien el estudiante y cuáles no.

El año pasado, un estudio publicado en Proceedings of the National Academy of Sciences señaló que desde que la IA entró en el círculo del Go, la capacidad de juicio de los jugadores humanos ha mejorado.

Ya en 2016, antes de que AlphaGo derrotara a Lee Sedol, Fan Hui, que había jugado contra AlphaGo en una prueba privada, tuvo una experiencia similar.

Aunque perdió, Fan Hui dijo que AlphaGo le permitió ver el Go de una manera nueva, mejoró sus habilidades y le permitió ascender rápidamente en el ranking mundial.

El estudio de 2023 se basa en los registros de ajedrez acumulados desde 1950 hasta 2021, incluidos datos de 5,8 millones de manos.

Los investigadores descubrieron que antes de que AlphaGo derrotara a Lee Sedol, la calidad de los juicios de los jugadores de ajedrez humanos se había mantenido estable y básicamente sin cambios durante 66 años. Sin embargo, durante 2016 y 2017, la calidad de los juicios de los jugadores de ajedrez comenzó a aumentar.

En otras palabras, aunque es posible que los jugadores de ajedrez humanos no puedan derrotar a los jugadores de ajedrez de IA, sus habilidades de juicio sí han mejorado.

Es muy inspirador ver con qué rapidez los ajedrecistas humanos pueden adaptarse e incorporar estos nuevos movimientos a sus propios métodos. Estos resultados sugieren que los humanos nos adaptaremos a estos descubrimientos y aprovecharemos ellos para mejorar enormemente nuestro potencial.

David Silver, científico investigador jefe de DeepMind y líder del proyecto AlphaGo, comentó sobre esta investigación.

Ke Jie, que fue derrotado por AlphaGo en 2017, también dijo en 2023 que rara vez practica con personas reales, excepto para competiciones, y cree que la IA incluso se ha convertido en la fuente de creatividad en Go:

La creatividad no se trata simplemente de hacer algo diferente. La creatividad debe ponerse en combate real y probarse. Ahora la mayor parte de la innovación en Go la realiza la IA. Si queremos jugar algunos juegos que son diferentes a los anteriores, existe una alta probabilidad de que esto suceda. Perderemos porque la IA pasa mucho combate real y pensar de manera diferente a la anterior es creatividad.

Además, también resulta especialmente interesante la actuación de otro ajedrecista profesional.

El ajedrecista coreano Shin Jin-jin es el primer ajedrecista posterior al 2000 en ganar un campeonato mundial. Los fanáticos del ajedrez a menudo lo llaman "Inteligencia Shen Gong" porque es famoso por su entrenamiento e investigación a largo plazo en IA.

En febrero de este año, Shin Jin-seok derrotó al capitán chino Gu Zihao en la 25ª Copa Nongshim, logrando seis victorias consecutivas en una sola temporada y 16 victorias consecutivas entre temporadas, superando a su predecesor Lee Chang-ho. En marzo de este año habló sobre su relación con la IA:

Siento que AI y yo somos amigos ahora. Estudié con IA que eran mejores que yo. La IA y el pensamiento humano son completamente diferentes. La IA resuelve problemas mediante algoritmos matemáticos. Me he beneficiado mucho del aprendizaje del pensamiento de la IA.

Ahora, los jugadores profesionales de China, Corea del Sur y Japón utilizarán la IA para entrenar.

Apocalipsis con "sabor a IA"

Al igual que en la era de la IA generativa, algunos diseñadores y autores necesitan realizar autocertificaciones complicadas debido al llamado "sabor de IA" contenido en sus obras, que ha estado integrado con la IA durante mucho tiempo. También se ha enfrentado a varios problemas con la aparición de "sabor de IA".

En los juegos de Go actuales, la IA se utiliza a menudo para predecir la tasa de ganancias y la IA recomienda el mejor movimiento. De este modo, el público puede adquirir una especie de "iniciativa" en el proceso de ver el partido y tener múltiples ángulos de visión.

En 2022, durante el partido contra Shen Zhenzhen, el ajedrecista chino Li Xuanhao tomó muchas decisiones que estaban en línea con las tres primeras predichas por el juicio óptimo de la IA. Por lo tanto, su compañero de equipo Yang Dingxin cuestionó su sospecha de hacer trampa con la IA.

Li Xuanhao, que nació en 1995, "trabaja de nueve a nueve, durante todo el año, y realmente trabaja duro" en el entrenamiento de IA, por lo que a veces se considera que el juego de ajedrez tiene el llamado "sabor de máquina".

Ante las dudas, la Asociación China de Go realizó una investigación y finalmente determinó que no había pruebas para la acusación, y Yang Dingxin impuso sanciones.

Pero existen casos de trampa con IA.

En 2020, se descubrió que Kim Eun-chi, jugador de ajedrez profesional de 13 años de Corea del Sur, tenía una superposición del 92% entre sus movimientos en partidas en línea y las recomendaciones de la IA. Después de una investigación, finalmente se determinó que había hecho trampa (y él lo admitió) y fue multado y suspendido por un año.

En 2022, el ajedrecista chino Liu Ruizhi fue declarado culpable de hacer trampa con la IA y fue el primer ajedrecista profesional en China en ser castigado oficialmente por hacer trampa con la IA. En comparación con Kim Eun-chi, Liu Ruizhi ha aprendido a evitar el "sabor de IA" y solo usa IA en algunos puntos clave.

En respuesta, las competiciones en varios países mejoran constantemente los mecanismos de trampa contra la IA.

Al mismo tiempo, algunas personas han utilizado el "sabor de IA" para derrotar a la IA.

En 2023, la ajedrecista amateur estadounidense Kellin Pelrine derrotó al Go AI KataGo.

KataGo es una de las IA de Go de código abierto más potentes disponibles, y Corea del Sur también la utilizará para entrenar jugadores de Go.

Pelrine usó un programa llamado FAR AI para jugar contra KataGo durante más de 1 millón de juegos. Finalmente, FAR AI encontró la debilidad de KataGo, la practicó en el duelo entre humanos y máquinas y ganó:

Esa estrategia no es exactamente infantil, pero tampoco es particularmente difícil de aprender.

Luego, también usó el mismo método para derrotar a Leela Zero, otra Go AI relativamente poderosa.

La clave de la estrategia es crear un gran "círculo" para rodear el grupo de piezas de ajedrez del oponente y luego, de repente, mover una pieza a otra esquina no relacionada para interferir con la IA.

Pelrine dijo que si fuera un jugador de ajedrez humano, definitivamente sabría que algo andaba mal cuando viera el círculo, pero la IA no lo notaría.

Esta debilidad parece un poco "complicada". ¿Se puede solucionar dejando que la IA realice un entrenamiento específico?

Un informe publicado en Nature la semana pasada citó un artículo preimpreso de este año y señaló que frente a programas que buscan específicamente las debilidades de la IA, las vulnerabilidades de los modelos no son tan fáciles de solucionar como se imagina.

Esta vez fue KataGo el objetivo. Los investigadores utilizaron tres estrategias diferentes para hacer que KataGo fuera más capaz de contraatacar:

• Deje que KataGo aprenda cómo responder a los ataques mediante el juego propio;
• Entrenamiento iterativo, use el programa de ataque para atacar a KataGo, devuelva la vulnerabilidad a KataGo, déjelo aprender a lidiar con ella mediante el juego automático u otros métodos, y luego use el programa de ataque para atacar a KataGo, repitiendo el ciclo;
• Entrene un nuevo sistema Go AI desde cero, utilizando un modelo de red neuronal diferente.

Aunque estos entrenamientos han ayudado a KataGo a mejorar sus capacidades de defensa hasta cierto punto, el programa de ataque aún puede encontrar lagunas y derrotar a KataGo con tasas de victoria del 91%, 81% y 78% respectivamente.

Estos programas de ataque en sí mismos no son excelentes Go AI y los humanos pueden derrotarlos fácilmente.

Por supuesto, la clave aquí no es competir entre si los humanos o la IA son mejores.

La cuestión es que para Go, un campo que la IA ha "subvertido", y después de tantos años de aplicación y mejora, su IA todavía tiene muchos problemas. Adam Gleave, autor del artículo, dijo:

Si no podemos resolver este problema en un solo dominio como Go, entonces, a corto plazo, la posibilidad de solucionar el jailbreak en modelos como ChatGPT parece escasa.