ChatGPT, al igual que ChatBot Zhinao, sabe qué decir y qué no decir.
ChatGPT, like ChatBot Zhinao, knows what to say and what not to say.
La inteligencia artificial generativa (IA) ha tomado el centro del escenario en el mundo de la tecnología, pero su operación en entornos de internet estrictamente controlados sigue siendo en gran parte un misterio. Sin embargo, una empresa tecnológica china, 360 Security Technology, ha arrojado recientemente luz sobre cómo su servicio similar a ChatGPT, Zhinao, navega por el estricto régimen de censura de China. Sumergámonos en esta revelación y exploremos cómo la IA generativa se adapta a la censura.
Lee también: Las propuestas regulaciones de IA de China sacuden la industria
Presentando Zhinao: La tecnología similar a ChatGPT del “cerebro inteligente” de China
En una gran ceremonia en Beijing, 360 Security Technology presentó su revolucionario chatbot impulsado por IA, Zhinao, también conocido como el “cerebro inteligente”. El fundador y presidente Zhou Hongyi reveló aspectos clave de la tecnología, haciendo hincapié en su sistema incorporado de “filtrado y moderación multinivel”. Este sistema es crucial para garantizar el cumplimiento de las rigurosas regulaciones de censura de China.
Cese instantáneo: Manejo preciso de palabras sensibles
Una característica sorprendente de Zhinao es su capacidad para terminar inmediatamente las conversaciones si un usuario ingresa una “palabra sensible”. La empresa cura una lista exhaustiva de palabras o frases prohibidas, actualizada continuamente gracias a moderadores humanos y la supervisión del departamento de seguridad pública. Este mecanismo de control riguroso demuestra cómo la IA generativa puede adaptarse a las demandas del sistema de censura de China.
Lee también:
- Voicebox La herramienta AI impresionante de Meta para la generación...
- Los Premios Grammy prohíben la IA los creadores humanos toman el ce...
- MetaVERTU revoluciona el mercado de smartphones con la integración ...
Acceso solo por invitación: Mejorando la seguridad del contenido
360 Security Technology sigue una política de restricción común entre los gigantes tecnológicos chinos al proporcionar acceso a su chatbot a través de códigos de invitación. Con este enfoque, la empresa asegura un mayor control sobre quién utiliza su producto de IA generativa. La seguridad del contenido se presenta como una ventaja significativa de Zhinao, alineándose con el compromiso de China de mantener una estricta supervisión sobre el contenido en línea.
Lee también: China suena la alarma sobre los riesgos de la inteligencia artificial
Navegando las leyes y éticas locales
Zhou Hongyi destacó la importancia de adherirse a las leyes, regulaciones, éticas y tradiciones locales al desarrollar modelos de lenguaje grandes y IA generativa. Él enfatizó que el cumplimiento de estos factores es crucial, independientemente del país en el que se desarrollen dichas tecnologías. La declaración de Zhou subraya la importancia de alinear las salidas de IA con las normas y valores locales.
Lee también: El Congreso de EE. UU. toma medidas: dos nuevos proyectos de ley proponen regulaciones sobre la inteligencia artificial
El panorama regulatorio de China: Un paso hacia la IA generativa controlada
En abril, la Administración del Ciberespacio de China (CAC) presentó reglas preliminares que rigen la IA generativa. Estas regulaciones exigen evaluaciones de seguridad para cada producto de IA antes de su lanzamiento al público, prohibiendo que los chatbots generen contenido que sugiera subversión del régimen, violencia, pornografía o que interrumpa el orden económico y social. Aunque no se han implementado oficialmente, estas reglas indican los esfuerzos de China por dar forma al desarrollo y despliegue de las tecnologías de IA dentro de sus fronteras.
Lee también: La UE toma una posición con las reglas de la IA
Evasión estratégica: Evitando preguntas sensibles
Los servicios chinos tipo ChatGPT, incluido el bot de Ernie de Baidu, han implementado funciones específicas para evitar responder preguntas sensibles. Cuando se le preguntó sobre la democracia de China, Ernie Bot evitó hábilmente el tema, afirmando que aún no había aprendido cómo responder esa pregunta. Tales respuestas evasivas demuestran la cuidadosa maniobra requerida para cumplir con las estrictas reglas de censura de China.
Lee también: Ernie Bot vs. ChatGPT: Un análisis comparativo de los modelos de lenguaje de IA
La carrera de China para ponerse al día: Una perspectiva positiva
Mientras algunos expertos expresan preocupaciones de que la estricta censura de China pueda obstaculizar el desarrollo de rivales de ChatGPT, Zhou Hongyi se mantiene optimista. Reconoció que la moderación de contenido no era una ventaja única para 360 Security Technology, ya que todas las empresas de internet en China poseen la capacidad de evitar la generación de contenido prohibido. La perspectiva positiva de Zhou sugiere la determinación de China de ponerse al día con los avances realizados por los modelos de ChatGPT de OpenAI.
Abrazando el futuro: Zhinao y el panorama de la IA generativa de China
El lanzamiento de Zhinao marca un hito significativo en el panorama de la inteligencia artificial generativa de China. El país se centra en garantizar el cumplimiento de las regulaciones de censura. Mientras tanto, empresas como 360 Security Technology se esfuerzan por desarrollar tecnologías de inteligencia artificial que se alineen con las leyes y éticas locales. La carrera por alcanzar los avances globales en inteligencia artificial continúa, y China sigue preparada para hacer grandes avances en el campo de los modelos de lenguaje grandes y la inteligencia artificial generativa.
También te puede interesar: La apuesta multimillonaria de China: el fondo de $145M en IA de Baidu señala una nueva era de autosuficiencia en IA
Nuestra opinión
El Zhinao de 360 Security Technology destaca las complejidades de operar inteligencia artificial generativa dentro de un entorno de internet controlado de manera estricta. A medida que China continúa dando forma a su marco regulatorio, el mundo observa para ver cómo estos avances modelan el futuro de la IA. Manténgase atento mientras China empuja los límites de la inteligencia artificial generativa, acortando la brecha con los líderes globales en el campo.
