uutiset

hiljattain hangzhoun poliisi paljasti maan ensimmäisen tapauksen, jossa suuren tekoälymallin avulla kasvot vaihdettiin yksityisyyden varastamiseksi, mikä on kauhistuttavaa ajatella.

rikolliset syöttävät malliin still-kuvia uhreista ja pyytävät sitten tekstin ja äänen avulla luodakseen live-videon. tämä live-video voi jäljitellä ihmisen kasvoja nyökätäkseen, räpäyttääkseen ja sivuttain, murtautua alustan kasvotodennuksen läpi, pakottaa sinut kirjautumaan muiden ihmisten tileille ja hankkia suuren määrän uhrin yksityisiä tietoja myytäväksi voittoa varten.

tämä on vain jäävuoren huippu tekoälyteknologian sovellusten kaaoksessa. viime vuosina tekoälyteknologia on kehittynyt nopeasti tuoden mukanaan uusia mahdollisuuksia ja entistä kätevämpiä palveluita. jotkut rikolliset käyttävät kuitenkin usein uusia tekniikoita, joista tulee "rikoskumppaneita".

ai "kasvojenmuutos" tekee petoksia, tekoäly väärentää kuvia levittääkseen huhuja ja tekoälyn myyntipuhelut ovat häiritseviä... kaikenlainen kaaos ei ainoastaan ​​loukkaa kuluttajien oikeutettuja oikeuksia ja etuja, uhkaa henkilö- ja omaisuusturvallisuutta, vaan myös haittaa ai-teollisuuden tervettä ja hallittua kehitystä.

ei ole epäilystäkään siitä, että tekoäly on tärkeä suunta tieteelliselle ja teknologiselle kehitykselle ja teknologinen ylämaa maiden väliselle kilpailulle. tekoälyä kehitettäessä emme kuitenkaan saa sivuuttaa sen piilotettuja riskejä. kiinnitä "turvavyö" kasvavalle tekoälylle ja tee siitä "apulainen" "rikoskumppanin" sijaan. pääpaino on hallinnon ja sääntelyn vahvistamisessa.

äskettäin pidetyllä vuoden 2024 kansallisella kyberturvallisuusviikolla ai-tietoturvasovelluksesta tuli kuuma aihe. tänä aikana asiaankuuluvat osastot julkaisivat "artificial intelligence security governance frameworkin" version 1.0, jossa ehdotettiin suuntaavia ratkaisuja, kuten tekoälyn turvallisuusjohtamisen periaatteita. cyber ​​​​security expo -messuilla esiteltiin myös joitain mustia teknologioita tekoälyn tietoturvariskeihin puuttumiseksi, kuten tekoälyn reaaliaikainen väärennysjärjestelmä, joka voi tehokkaasti tunnistaa ja torjua petosrutiineja, kuten tekoälyn kasvojen vaihtamista ja tekoälyn onomatopoiaa.

tekniikka on aina ollut "kaksiteräinen miekka", onko se hyvä tai huono, hyödyllinen tai haitallinen, avain riippuu siitä, kuinka miekkaa pitävä henkilö on valmis käyttämään sitä. kun kehitämme tekoälyä voimakkaasti, meidän on lisättävä turvallisuustietoisuutta, vahvistettava asiaankuuluvien tietoturvateknologioiden edistämistä ja soveltamista sekä edistettävä hallintokonsensuksen muodostumista yhteiskunnan kaikkien osapuolten kesken, jotta tekoäly voi hyödyttää ihmiskuntaa paremmin. (kirjoittaja: ma ruohu)