「人工知能における次の機会の波: 「処理」から真の「理解」へ」
2024-09-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
人工知能は協力者ですか、それとも敵ですか? 9月5日、2024年包摂外灘会議中の9月5日、国連人工知能ハイレベル諮問機関の専門家、北京人工知能セキュリティ・ガバナンス研究所所長、中国学院オートメーション研究所研究員の曽毅氏はこう語った。科学博士は、the paperなどのメディアとのインタビューで、人工知能は人間のライバルにはならないが、それが無責任に開発され使用されれば、人間と人工知能は競争する機会さえなくなるだろうと述べた。
彼は、人工知能は情報処理ツールとして、現時点では誰もが想像しているほど多くのことを行うことはできませんが、あらゆる仕事で一定の役割を果たすことになるでしょうが、破壊的な役割ではないと考えています。人工知能は長い間「道具」の段階に留まるだろう。人工知能が「処理」から真の「理解」に変わるときが次のチャンスとなるため、私たちは基礎研究に立ち返り、人工知能の仕組みや計算力学の本質を探求する必要があります。
zeng yi は、国連人工知能ハイレベル諮問機関の専門家、北京人工知能セキュリティおよびガバナンス研究所の所長、中国科学院オートメーション研究所の研究者です。
データとアルゴリズムがバイアスを生み出す
人工知能技術は日進月歩で進歩しており、人間の統治の課題はますます大きくなっています。テクノロジー研究者にとって、科学的なブレークスルーは最も簡単です。科学的な進歩を遂げることよりも難しいのは、科学が社会に与える可能性のある悪影響について考えることです。これらよりも難しいのは、科学の進歩によって引き起こされる潜在的なリスクを解決することです。
「適切に扱われれば、人工知能はデジタル格差を埋めることができます。適切に扱われなければ、人工知能はより大きな知能格差をもたらすでしょう。」 ゼン・イー氏は、デジタル化によって公平性の差が生じ、人工知能によって人間との格差が縮まったと述べた。スマートなインターフェースと情報や知識への簡単なアクセスは、デジタル格差と知能格差の間に大きな世代間ギャップを生み出し、1世代または複数世代に影響を与えるでしょう。知能格差をどう回避するかは、人工知能や科学研究者、技術開発者、そしてその利用に慣れていない人々が完全に解決できる問題では決してありません。知能格差は技術的かつ社会的な問題です。
「多くの人は、人工知能テクノロジーは中立的であり、最も重要なのは人々がこのテクノロジーをどのように使用するかであると信じています。しかし、人工知能はそうではありません。人工知能の出発点はデータとアルゴリズムです。」と zeng yi 氏は言いました。人工知能にバイアスを生み出します。データは社会から来ます。社会のデータは人間の行動の記録です。人間のデータを学習する人工知能は、人間のバイアスを学習するだけでなく、バイアスを増幅します。 「たとえば、aiに職業を勧めてもらいましょう。20歳の女の子は看護師かウェイターです。この条件を出した後、ceoを推薦しましたか？いいえ、35歳の学歴が高い男の子がceoを推薦しました」これは統計バイアスです。」
現代サイバネティクスの創始者であるノーバート・ウィーナーは、1960 年にサイエンス誌に次のように書いています。「私たちは、機械にプログラムした内容が当初の意図と一致していることをよく確認したほうがよいでしょう。人工知能には、善と悪が存在します。」人間は、いくつかのシナリオでは人工知能が悪を示すべきではないと定めていますが、これは人工知能がこれを行わないという意味ではないと述べ、「人間がすべての状況を明確にリストすることは不可能です」と述べました。 「データに隠された人間の限界は、人間がめったに考慮しない問題ですが、現在ではそれらは機械によって学習されており、機械がデータを適用する方法の潜在的なリスクをまだ整理できていません。」
助っ人か相手か？
人工知能は協力者ですか、それとも敵ですか? zeng yi 氏は、人間は人工知能を人類の補助者として形成する必要があると考えています。「人工知能を無責任に開発したり、その開発の方向性を野放しにしたり、さらには短期的な利益を追求したりすると、敵対者になる可能性があります。」
人工知能の出現により、人間はしばしば、ai が人間の仕事を奪うのではないかと心配します。曾儀は『論語』の中で「君子不用」とは、君子は道具のようなものではなく、その機能が一定の側面に限定されているという意味であると述べています。 「将来的には新しい仕事の形が生まれ、徐々に社会に認知されるようになるでしょう。なぜなら、より多くの仕事が人工知能に代替されるようになると、人間のかけがえのない部分がますます明らかになり、人間は原点回帰を強いられるからです」私たちがやるべきことに戻ってください。」
彼は、人工知能技術の発展と長期的な応用により、人間は人類の意味と人間が何をすべきかについて考えざるを得なくなったと考えています。 「人工知能によって書かれたより大量のデータと知識がインターネット上に現れ、これらのデータと知識が人工知能を訓練するために人工知能に供給されると、人工知能の能力はますます弱くなるでしょう。したがって、私は人工知能によって蒸気機関時代やコンピューター時代と同じように、テクノロジーは人間に短期的な不安をもたらし、より多くの人々を本来あるべき場所に戻す可能性があります。」
zeng yi 氏の見解では、人工知能の潜在的なリスクは、社会とテクノロジーの深い統合を探ることによって解決されなければなりません。自動運転タクシー「キャロットラン」のように、社会のあらゆる面でこの技術を歓迎する準備が十分に整っているわけではなく、「潜在的なリスクを解決するためにテクノロジーに頼ることは絶対にできませんし、技術研究者だけに期待を寄せるわけにもいきません」。
「多くのテクノロジー研究者、特に起業家精神にあふれたテクノロジー研究者は、自分がやらなければ手遅れになる、あるいは機会を開発しなければ他人のものになってしまうと言います。実際、私にはそれができません」生成型人工知能は、人工知能開発の最初の 3 ラウンドに似ていますが、情報処理ツールとしては、誰もが想像しているほど多くのことは実行できません。どの作品にも出演していますが、破壊的な役割ではありません。」
zeng yi氏は、人工知能はインテリジェントな情報処理ツールのようであり、長い間「ツール」の段階に留まっていたと述べた。自己を持たない人工知能には「理解」を生み出すチャンスはまったくありません。少なくとも次のチャンスは、人工知能が「処理」から真の「理解」に変わることです。このためには、基礎研究に立ち返り、人工知能のメカニズムとコンピューティング理論の本質を探求し、ビッグデータと大規模なコンピューティング能力から、小さなデータ、小さなタスク、高知能、低エネルギー消費へと発展させる必要があります。 「これは私たちが将来本当に開発すべきものです。アプローチはデータ駆動型からメカニズム駆動型の人工知能に変わる必要があります。」
ザ・ペーパー記者の張晶
（この記事はthe paperからのものです。よりオリジナルの情報については、「the paper」アプリをダウンロードしてください）
