Jonathan Dambrot, CEO y Co-Fundador de Cranium AI – Serie de Entrevistas
Jonathan Dambrot, CEO y Co-Fundador de Cranium AI - Entrevista.
Jonathan Dambrot es el CEO y cofundador de Cranium AI, una empresa que ayuda a los equipos de ciberseguridad y ciencia de datos a comprender en qué medida la IA está afectando sus sistemas, datos o servicios.
Jonathan es un exsocio de KPMG, líder de la industria de la ciberseguridad y visionario. Antes de KPMG, lideró Prevalent para convertirse en líder de la industria según Gartner y Forrester en la gestión de riesgos de terceros antes de su venta a Insight Venture Partners a finales de 2016. En 2019, Jonathan dejó el cargo de CEO de Prevalent mientras la empresa busca seguir creciendo bajo un nuevo liderazgo. Ha sido citado en varias publicaciones y habla regularmente ante grupos de clientes sobre las tendencias en TI, seguridad de la información y cumplimiento normativo.
¿Podrías compartir la historia de origen de Cranium AI?
Se me ocurrió la idea de Cranium en junio de 2021 cuando era socio de KPMG, liderando los servicios de seguridad de terceros a nivel global. Estábamos construyendo y ofreciendo soluciones impulsadas por IA para algunos de nuestros clientes más grandes, y descubrí que no estábamos haciendo nada para protegerlos contra amenazas adversas. Así que hice la misma pregunta a los líderes de ciberseguridad de nuestros clientes más importantes, y las respuestas que recibí fueron igualmente terribles. Muchos de los equipos de seguridad ni siquiera habían hablado con los científicos de datos, hablaban idiomas completamente diferentes cuando se trataba de tecnología y, en última instancia, no tenían ninguna visibilidad de la IA que se ejecutaba en toda la empresa. Todo esto, combinado con el desarrollo constante de regulaciones, fue el detonante para construir una plataforma que pudiera proporcionar seguridad a la IA. Comenzamos a trabajar con el vivero KPMG Studio e involucramos a algunos de nuestros clientes más grandes como socios de diseño para guiar el desarrollo y satisfacer las necesidades de estas grandes empresas. En enero de este año, Syn Ventures completó la financiación inicial y nos independizamos de KPMG en marzo, emergiendo del anonimato en abril de 2023.
¿Qué es la tarjeta Cranium AI y qué ideas clave revela?
- 10 Mejores Herramientas de Recuperación de Datos para Mac (Julio 2023)
- Paisaje de MLOps en 2023 Principales herramientas y plataformas
- Google Revela Uso de Datos Públicos de la Web en el Entrenamiento d...
La tarjeta Cranium AI permite a las organizaciones recopilar y compartir de manera eficiente información sobre la confiabilidad y el cumplimiento de sus modelos de IA tanto con clientes como con reguladores, y obtener visibilidad sobre la seguridad de los sistemas de IA de sus proveedores. En última instancia, buscamos brindar a los equipos de seguridad y cumplimiento la capacidad de visualizar y monitorear la seguridad de la IA en su cadena de suministro, alinear sus propios sistemas de IA con los requisitos y marcos de cumplimiento actuales y futuros, y compartir fácilmente que sus sistemas de IA son seguros y confiables.
¿Cuáles son algunos de los problemas de confianza que las personas tienen con la IA y que se resuelven con esta solución?
Las personas generalmente quieren saber qué hay detrás de la IA que están utilizando, especialmente a medida que más y más de sus flujos de trabajo diarios se ven afectados de alguna manera por la IA. Buscamos brindar a nuestros clientes la capacidad de responder preguntas que pronto recibirán de sus propios clientes, como “¿Cómo se gobierna esto?”, “¿Qué se está haciendo para proteger los datos y los modelos?” y “¿Se ha validado esta información?”. La tarjeta AI brinda a las organizaciones una forma rápida de abordar estas preguntas y demostrar la transparencia y confiabilidad de sus sistemas de IA.
En octubre de 2022, la Oficina de Política de Ciencia y Tecnología de la Casa Blanca (OSTP) publicó un Plan para una Declaración de Derechos de IA, que compartió una hoja de ruta no vinculante para el uso responsable de la IA. ¿Podrías discutir tus opiniones personales sobre los pros y los contras de este proyecto de ley?
Aunque es increíblemente importante que la Casa Blanca haya dado este primer paso en la definición de los principios rectores para una IA responsable, no creemos que haya ido lo suficientemente lejos para proporcionar orientación a las organizaciones y no solo a las personas preocupadas por impugnar una decisión basada en IA. Las futuras guías regulatorias deberían ser no solo para los proveedores de sistemas de IA, sino también para los usuarios, para que puedan comprender y aprovechar esta tecnología de manera segura y protegida. En última instancia, el beneficio principal es que los sistemas de IA serán más seguros, inclusivos y transparentes. Sin embargo, sin un marco basado en el riesgo para que las organizaciones se preparen para la regulación futura, existe el potencial de frenar el ritmo de la innovación, especialmente en circunstancias donde cumplir con los requisitos de transparencia y explicabilidad es técnicamente inviable.
¿Cómo ayuda Cranium AI a las empresas a cumplir con esta Declaración de Derechos?
Cranium Enterprise ayuda a las empresas a desarrollar y entregar sistemas seguros, que es el primer principio clave dentro de la Declaración de Derechos. Además, la tarjeta AI ayuda a las organizaciones a cumplir con el principio de notificación y explicación al permitirles compartir detalles sobre cómo funcionan realmente sus sistemas de IA y qué datos utilizan.
¿Qué es el Marco de Gestión de Riesgos de IA del NIST y cómo ayudará Cranium AI a las empresas a cumplir con sus obligaciones de cumplimiento de IA para este marco?
El NIST AI RMF es un marco de trabajo para que las organizaciones gestionen mejor los riesgos para las personas, organizaciones y la sociedad asociados con la IA. Sigue una estructura muy similar a sus otros marcos, al describir los resultados de un programa exitoso de gestión de riesgos para la IA. Hemos mapeado nuestra tarjeta de IA a los objetivos descritos en el marco para apoyar a las organizaciones en el seguimiento de cómo sus sistemas de IA se alinean con el marco y, dado que nuestra plataforma empresarial ya recopila mucha de esta información, podemos completar y validar automáticamente algunos de los campos.
El Reglamento de IA de la UE es una de las legislaciones de IA más monumentales que hemos visto en la historia reciente, ¿por qué las empresas no pertenecientes a la UE deben cumplir con ella?
Al igual que el RGPD para la privacidad de datos, el Reglamento de IA cambiará fundamentalmente la forma en que las empresas globales desarrollan y operan sus sistemas de IA. Las organizaciones con sede fuera de la UE aún deberán prestar atención y cumplir con los requisitos, ya que cualquier sistema de IA que utilice o afecte a ciudadanos europeos estará sujeto a los requisitos, independientemente de la jurisdicción de la empresa.
¿Cómo se está preparando Cranium AI para el Reglamento de IA de la UE?
En Cranium, hemos estado siguiendo el desarrollo del Reglamento de IA desde el principio y hemos adaptado el diseño de nuestro producto AI Card para ayudar a las empresas a cumplir con los requisitos de cumplimiento. Creemos que tenemos una gran ventaja inicial dado nuestro conocimiento temprano del Reglamento de IA y cómo ha evolucionado a lo largo de los años.
¿Por qué debería convertirse la IA responsable en una prioridad para las empresas?
La velocidad a la que se está incorporando la IA en cada proceso y función empresarial significa que las cosas pueden salir rápidamente de control si no se hace de manera responsable. Priorizar la IA responsable ahora, al comienzo de la revolución de la IA, permitirá a las empresas escalar de manera más efectiva y no enfrentar grandes obstáculos y problemas de cumplimiento más adelante.
¿Cuál es su visión para el futuro de Cranium AI?
Vemos a Cranium convertirse en el verdadero líder de categoría en IA segura y confiable. Si bien no podemos resolver todo, como desafíos complejos como el uso ético y la explicabilidad, buscamos asociarnos con líderes en otras áreas de IA responsable para impulsar un ecosistema que haga que sea simple para nuestros clientes cubrir todas las áreas de IA responsable. También buscamos trabajar con los desarrolladores de soluciones innovadoras de IA generativa para respaldar la seguridad y confianza de estas capacidades. Queremos que Cranium permita a las empresas de todo el mundo seguir innovando de manera segura y confiable.
Gracias por la excelente entrevista, los lectores que deseen obtener más información deben visitar Cranium AI.
