소식

최근 국내 AAA 게임 대작 '흑신화:오공'이 인터넷상에서 큰 인기를 얻으며 출시와 동시에 전 세계의 관심을 받고 있다. 내셔널 게임 베스트셀러 목록의 통계에 따르면 단 하루 만에 여러 플랫폼에서 게임의 총 판매량이 450만 장을 넘어섰고, 총 판매량은 15억 위안을 넘어섰습니다. 동시에 게임의 인기에 연루된 일부 "피해자"도 있었습니다.

'검은 신화: 오공'이 스팀에 출시된 날, 한 유명 게임 앵커가 게임을 라이브로 플레이하던 중 3D 어지럼증을 겪은 결과 웨이보 인기 검색어 1위를 차지하며 농담으로 '검은 신화'로 불렸다. : 오공' 많은 네티즌들 사이에서 '세계 최초의 피해자'. 그리고 8월 21일에는 또 다른 게임의 '피해자'가 등장했는데, 그의 관련 경험은 실제로도 유사했다.마이크로소프트관련된.

마이크로소프트 빙 검색에 'Black Myth Wukong 고객 서비스'를 입력하면 공식 고객 서비스 번호가 아닌 Jifeng.com 직원의 개인 휴대전화 번호가 잘못 표시됩니다. 또한 중국비즈니스뉴스 저작권국의 연락처와 이메일 주소를 포함해 잘못된 전화번호 2개가 고객 서비스로 표시됐다.

전화번호가 유출된 사람은 5시간 동안 20통 가까이 전화를 받았다고 한다. 이번 사건의 주된 원인은 Microsoft Bing인 것으로 알려졌습니다. 일체 포함 조력자가 실수로 정보를 캡쳐해 개인정보가 유출된 사건이 ​​발생했고, 이후 관련 캡쳐 글을 삭제하고 피해자가 항의 및 기타 피드백을 제출했음에도 불구하고 빙에는 여전히 잘못된 '흑설화 오공 고객센터' 정보가 떴다. 홈페이지를 검색하세요. 현재 검색 상황으로 판단하여 Bing팀에서 잘못된 정보를 수정하였습니다.

세계에서 두 번째로 큰 검색 엔진인 Microsoft Bing은 36개 국가 및 지역에서 6억 명이 넘는 사용자를 보유하고 있습니다. 2023년 2월 7일, 마이크로소프트는 다음과 같이 발표했습니다. 채팅GPT 새 버전의 Bing(New Bing)에 통합되어 통합된 새 버전의 Bing이 채택됩니다.오픈AI AI 모델(주) 3.5의 업그레이드 버전GPT-4. 이번 사건은 AI 검색 엔진이 정보 캡처 및 처리에 특정 결함이 있음을 나타낼 수 있습니다.

지난 달 Microsoft는 Bing에 대한 주요 업데이트를 발표했습니다. 검색 엔진은 포괄적인 변화를 겪고 AI에서 생성된 답변의 우선 순위를 지정하기 시작할 것입니다. 즉, 사용자가 검색어를 입력하면 마스터 AI가 생성한 답변이 결과 페이지에 팝업으로 나타나 결과를 얻는 데 사용된 모든 선별된 정보 소스를 자세히 설명합니다. 물론 Bing 검색 페이지에는 기존 검색 결과가 계속 표시되지만 AI 생성 자료 옆(오른쪽의 작은 창)에 표시됩니다.

이 변경 사항에 대해 Microsoft는 공식 블로그 게시물에서 다음과 같이 설명했습니다. "이 새로운 경험은 대/소 언어 모델(법학 석사 SLM의 강력한 기능과 결합). 검색 쿼리를 이해하고, 수백만 개의 정보 소스를 검색하고, 콘텐츠를 동적으로 일치시키며, 새로운 AI 생성 레이아웃에 검색 결과를 표시하여 사용자 쿼리 의도를 보다 효과적으로 충족합니다. "

Microsoft는 또한 Bing의 생성 검색에 대한 몇 가지 예를 블로그 게시물에 나열했습니다. 또한 Microsoft는 사용자가 볼 수 있는 답변을 만드는 데 사용되는 대규모 언어 모델 및 소규모 언어 모델에 대한 기본 소스 링크도 제공합니다. AI가 결과를 생성한 후에는 정기적인 결과 항목 목록이 있습니다.

예를 들어, "코끼리는 얼마나 오래 살고 있나요?"라는 질문을 하면 답변 요약 본문에 코끼리의 수명에 영향을 미치는 동영상도 나열됩니다. 사용자가 "스파게티 웨스턴이란 무엇인가요?"를 검색하면 Bing의 생성 검색이 이 정보에 대한 링크 및 소스와 함께 이 영화 하위 장르의 역사, 기원 및 고전에 대한 정보를 표시합니다.

당시 마이크로소프트는 이 조정이 소수의 Bing 사용자에게만 적용되었지만 가까운 시일 내에 점진적으로 확대되어야 한다고 밝혔습니다. Microsoft는 또한 블로그 게시물에서 AI 검색이 웹 사이트와 독자에 미치는 영향을 계속 평가할 것이라고 밝혔습니다. 업계의 일부 사람들은 다음과 같이 우려하고 있습니다.일체 포함무료로 콘텐츠를 생성하는 웹사이트는 봇이 스크랩한 콘텐츠가 채팅 창이나 검색 페이지에 직접 렌더링되면 결국 폐업하게 됩니다.

이에 대해 마이크로소프트는 이 새로운 AI 검색 경험이 처음부터 이 문제를 염두에 두고 구축되었기 때문에 기존 검색과 동일한 웹사이트 클릭 수를 유지한다고 밝혔습니다. 이것이 사실인지는 시간이 말해 줄 것입니다. 또한 Bing은 결과 페이지에서 AI 생성 기능을 끄고 전통적인 검색 스니펫만 표시하도록 선택할 수도 있는 것으로 이해됩니다.

이제 검색 페이지에 AI 생성 결과를 추가하는 브라우저 회사는 Microsoft만이 아닙니다. Microsoft가 Bing을 위한 더 많은 도구를 출시함에 따라 검색에 더 많은 AI 기능을 도입하려는 경쟁이 점차 확대되고 있습니다.

그러나 수많은 실제 사례는 AI 검색이 우리가 생각하는 것만큼 신뢰할 수 있고 정확하지 않다는 것을 증명하고 있습니다. AI 검색은 실수를 할 수도 있고, 경우에 따라 생성된 결과에 잘못된 정보와 제안을 표시하기도 합니다.

올해 초,GoogleAI 챗봇에서 직접 질문에 대한 답변을 구하려는 사용자를 유지하기 위해 AI 개요라는 유사한 도구가 출시되었습니다. 그러나 이 도구는 출시 이후 피자에 치즈가 달라붙도록 접착제를 추가할 것을 제안하고 "지질학자들은 매일 작은 돌 하나 이상을 먹는 것이 좋습니다"라고 대답하는 등 농담도 했습니다.

아크서치 브라우저는 AI 모드에서 "잘린 발가락은 결국 다시 자라난다"며 부적절한 의학적 조언을 하겠다고 다짐한다.

인공지능 검색 엔진 Genspark는 사용자에게 사람을 죽이는 데 사용될 수 있는 몇 가지 무기를 추천합니다.당황 일부 언론의 기사를 표절했지만, 출처나 저작권 소유권은 밝히지 않았다.

또한 AI가 생성한 요약은 해당 요약이 파생된 웹사이트의 트래픽을 잠식할 수 있습니다. 한 연구에 따르면 AI 발췌문은 기사 링크에 대한 강조가 약해 콘텐츠 게시자 트래픽을 약 25% 줄일 수 있는 것으로 나타났습니다.

이들 신흥 AI 검색엔진은 대량의 텍스트를 빠르게 생성하고 사람의 텍스트를 설득력 있는 효과로 흉내내는 능력으로 인기를 끌지만, 그 이면에는 AI '환상'도 이들 챗봇에 영향을 미쳐 이를 현실화하고 있다. 다음 레벨의 주요 저항. 불행하게도 일부 전문가들은 이 상황이 결코 해결되지 않을 수도 있다고 경고합니다.

Associated Press가 발표한 새로운 보고서는 LLM(대형 언어 모델) "말도 안되는 문제"가 많은 기술 창립자와 AI 지지자들이 주장하는 것만큼 해결하기 쉽지 않을 수 있음을 강조합니다. 워싱턴 대학교 컴퓨터 언어학 연구소의 언어학 교수인 Emily Bender는 "환각 문제는 단순히 해결할 수 없으며 기술과 제안된 사용 사례 간의 불일치로 인한 불가피한 결과입니다."라고 말했습니다.

Jasper AI의 사장인 Shane Orlick에 따르면 적절한 "헛소리"가 나쁘지 않은 상황이 있습니다. 올릭은 "환상은 실제로 추가적인 혜택을 가져올 수 있다. 고객들은 항상 우리에게 영감을 주셔서 감사하다"고 설명했다. AI가 다양한 우연에 의해 고객이 생각하지 못한 이야기나 관점을 출력할 수 있다는 것이 근본 원인이다"고 설명했다.

마찬가지로 AI 환상은 AI 이미지 생성에도 큰 도움이 됩니다. Dall-E 및 Midjourney와 같은 모델은 이러한 상상력을 활용하여 눈길을 사로잡는 멋진 이미지를 생성합니다. 즉, 텍스트 생성 분야에서만 환각은 사용자를 정말 괴롭히는 문제이며, 특히 뉴스 보도와 같이 정확성이 매우 강조되는 시나리오에서는 더욱 그렇습니다.

Bender는 다음과 같이 지적합니다. "대형 언어 모델의 기본 원리는 모든 기능의 근본인 콘텐츠를 '구성'하는 것입니다. 그러나 힘은 구성에서 나오기 때문에 출력되는 텍스트가 우리의 프롬프트와 정확하게 일치할 때 발생합니다. 즉, 이 상황은 오히려 우연의 문제입니다. 비록 미세 조정된 모델이 대부분 정확하더라도 여전히 결함으로부터 완전히 면역되지는 않으며, 미래에 대한 환상은 더 어려운 흐릿하게 존재할 가능성이 높습니다. 텍스트 독자가 알아차릴 수 있도록 말이죠.”

대규모 언어 모델은 특별한 기능을 수행할 수 있는 강력한 도구이지만, 기업은 물론 전체 기술 산업도 무언가가 강력하다고 해서 유용한 도구로 간주될 수 없다는 점을 깨달아야 합니다. 해머 드릴은 포장 도로와 아스팔트를 뚫는 데 적합하지만 누구도 감히 고고학 발굴에 가져갈 수 없습니다.

Bender가 지적했듯이 대규모 언어 모델은 처음 훈련을 시작하는 순간 우리가 제공하는 단서에 기초하여 시퀀스의 다음 단어를 예측하려고 합니다. 훈련 데이터의 각 단어에는 주어진 문맥에서 주어진 단어의 이전 발생을 추적하기 위해 가중치 또는 백분율이 제공됩니다. 그러나 이러한 첫 번째 단어 자체에는 정확한 출력을 보장할 만큼 충분한 유형의 의미나 중요한 맥락이 없습니다.

즉, 이러한 대규모 언어 모델은 실제로 자신이 말하는 내용을 알지 못하므로 너무 많이 신뢰하면 사용자가 문제를 겪을 뿐입니다. 이러한 약점은 대규모 언어 모델에 내재되어 있으며, 향후 반복에서 "환상"이 점차 줄어들 수 있지만 문제 자체는 완전히 해결되지 않을 수 있습니다.

참조 링크:

https://www.engadget.com/microsoft-is-adding-ai-powered-summaries-to- 必应 -search-results-203053790.html?src=rss

https://www.techradar.com/computing/artificial-intelligence/ 좋아하든 싫어하든 AI 검색 결과의 우선순위를 정하는 기능이 개편되었습니다.

https://www.techradar.com/computing/artificial-intelligence/chatgpt-and-other-ai-chatbots-will-never-stop-making-stuff-up-experts-warn

https://techcrunch.com/2024/07/24/bing-previews-its-answer-to-googles-ai-overviews/