nachricht

kürzlich hat die polizei von hangzhou den ersten fall im land bekannt gegeben, bei dem ein großes ki-modell zum ändern von gesichtern eingesetzt wurde, um die privatsphäre zu stehlen, was ein schrecklicher gedanke ist.

kriminelle geben standbilder von opfern in das modell ein und stellen dann per text und stimme anfragen, um ein live-video zu erstellen. dieses live-video kann ein menschliches gesicht mit nicken, blinzeln und seitwärtsbewegungen nachahmen, die gesichtsauthentifizierung der plattform durchbrechen, sie dazu zwingen, sich bei den konten anderer personen anzumelden, und an eine große menge privater daten des opfers gelangen, um diese gewinnbringend zu verkaufen.

dies ist nur die spitze des eisbergs im chaos der ki-technologieanwendungen. in den letzten jahren hat sich die technologie der künstlichen intelligenz rasant weiterentwickelt und bietet immer mehr neue möglichkeiten und bequemere dienste. allerdings werden neue technologien häufig von einigen kriminellen genutzt und zu „komplizen“ bei straftaten.

„gesichtsveränderung“ durch ki begeht betrug, ki fälscht bilder, um gerüchte zu verbreiten, und ki-verkaufsgespräche sind beunruhigend … alle arten von chaos verletzen nicht nur die legitimen rechte und interessen der verbraucher, gefährden die persönliche sicherheit und die sicherheit von eigentum, sondern behindern auch die gesunde und geordnete entwicklung der ki-industrie.

es besteht kein zweifel daran, dass ki eine wichtige richtung für die wissenschaftliche und technologische entwicklung und ein technologischer höhepunkt für den wettbewerb zwischen ländern ist. bei der entwicklung von ki dürfen wir jedoch die verborgenen risiken nicht außer acht lassen. legen sie den „sicherheitsgurt“ für die wachsende ki an und machen sie sie zu einem „helfer“ und nicht zu einem „komplizen“. der schwerpunkt liegt auf der stärkung von governance und regulierung.

auf der kürzlich abgehaltenen national cyber ​​security awareness week 2024 wurde das thema ki-sicherheitsanwendungen zu einem heißen thema. in diesem zeitraum veröffentlichten relevante abteilungen version 1.0 des „artificial intelligence security governance framework“ und schlugen richtungsweisende lösungen wie prinzipien der sicherheitsgovernance für künstliche intelligenz vor. auf der cyber ​​​​security expo wurden auch einige schwarze technologien zum umgang mit ki-sicherheitsrisiken vorgestellt, beispielsweise das ki-echtzeit-fälschungssystem, mit dem betrugsroutinen wie ki-gesichtsveränderung und ki-lautmalerei effektiv identifiziert und bekämpft werden können.

technologie war schon immer ein „zweischneidiges schwert“. ob sie gut oder schlecht, nützlich oder schädlich ist, der schlüssel hängt davon ab, wie die person, die das schwert hält, bereit ist, sie zu nutzen. wenn wir die ki energisch weiterentwickeln, müssen wir das sicherheitsbewusstsein stärken, die förderung und anwendung relevanter sicherheitstechnologien stärken und die bildung eines governance-konsenses zwischen allen parteien in der gesellschaft fördern, damit die ki der menschheit besser nützen kann. (texter: ma ruohu)