noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Según noticias del 2 de agosto, la 12ª Conferencia de Seguridad de Internet (ISC.AI 2024), esta conferencia se llevará a cabo bajo el tema “Construyendo unmodelo grande, Liderando una nueva revolución en la industria de la seguridad" como tema, centrándose en profundidad en los dos campos principales de la seguridad y la IA. En el lugar, entrevistamos360Presidente de ZhinaoZhang Xiangzheng, llevó a cabo intercambios en profundidad sobre la comprensión de 360 ​​Intelligence sobre los problemas de seguridad y la planificación de productos.

Zhang Xiangzheng presentó que el equipo de Intelligent Brain es responsable de las capacidades generales del modelo, así como de las capacidades especiales para escenarios comerciales centrales, como lectura inteligente, navegadores, resumen de texto, resumen de video/subtítulos, generación de mapas mentales, adivinación de palabras de búsqueda y reconocimiento de intenciones. y resumen, etc. espera. Al mismo tiempo, el equipo de Intelligent Brain también es responsable del trabajo de combinar la seguridad de API e IA con capacidades de modelos grandes.

El tema de esta conferencia es "Construir un gran modelo de seguridad". Cuando se trata de temas de seguridad, Zhang Xiangzheng dijo que los problemas de seguridad se dividen en varias partes: la primera parte es el nivel de implementación del sistema, que está relacionado con la seguridad de la red tradicional. incluido el marco del Agente, incluidas las bases de datos vectoriales, incluido el marco PyTorch, que en sí mismo tiene riesgos potenciales de vulnerabilidad, la segunda parte es si el contenido generado cumple con los requisitos regulatorios, incluida la alineación de valores, la tercera parte es el error del resultado de salida, suponiendo que; Se da el 10%, no sé que se da ese 10% ¿En qué punto se debe creer o no el resultado que se genera en muchos casos? El cuarto bloque está relacionado con el marco del Agente. El modelo grande es solo el centro de programación y puede acceder a muchos terceros o muchas bases de datos dentro de empresas o empresas. Si se realizan operaciones automatizadas, la seguridad de otros sistemas puede verse afectada. Por ejemplo, cuando se utiliza para inteligencia encarnada, se pueden realizar algunas acciones peligrosas.

En el nivel de seguridad, la diferencia entre ToB y ToG también es obvia. Zhang Xiangzheng introdujo que la tolerancia a los problemas de seguridad es diferente. Por ejemplo, los departamentos gubernamentales deben proporcionar soluciones de implementación privatizadas para los datos de capacitación y todos los ajustes y la capacitación incremental. debe ser dentro de agencias gubernamentales. Hacerlo en un entorno de red. En el escenario ToB, uno típico es la educación. Hay un poema "Luz de luna antes de la cama". Hay dos versiones en línea. El gerente de producto está muy asustado y se pregunta por qué la introducción del poema completo es diferente del texto de ese tipo. un poema famoso. Los niños no tienen una buena capacidad de discriminación, lo que conlleva exigencias muy altas en cuanto a la fiabilidad de los resultados.

Hablando sobre el tema de los modelos pequeños, Zhang Xiangzheng señaló que hemos explorado un poco la aplicación de modelos pequeños en el lado de las computadoras y probado soluciones relacionadas internamente, pero todavía hay muy pocas computadoras portátiles que cumplan con los requisitos y el volumen es no tan grande. Además, también hemos considerado la aceptación. Creemos que todavía queda camino por recorrer antes de la comercialización de modelos pequeños.

Con respecto al tema recientemente discutido de la búsqueda por IA, Zhang Xiangzheng respondió que, en comparación con la búsqueda tradicional, la búsqueda por IA es más exclusiva porque puede utilizar razonamiento de varios pasos o búsquedas de múltiples palabras clave para desglosar problemas complejos y resolverlos paso a paso y automáticamente. Después de realizar la recuperación de varios pasos, realice la fusión, o después de completar el primer paso de la inferencia, realice otra búsqueda en los resultados de la inferencia, luego entréguelo al modelo grande y luego realice la fusión. En el futuro, si las capacidades de búsqueda de IA se vuelven cada vez más fuertes, los hábitos de los usuarios migrarán, pero no se puede decir que sea una forma de producto completamente nueva. Esto está relacionado con los hábitos de uso de los usuarios. (Dingxi)

Este artículo proviene de NetEase Technology Report. Para obtener más información y contenido detallado, síganos.