En vísperas de su 25 aniversario, Mozilla, la organización sin fines de lucro detrás del navegador Firefox, está lanzando una startup centrada en la IA.
Llamado Mozilla.aiLa misión de la compañía recién creada no es construir ninguna IA, su misión es construir una IA de código abierto y «confiable», según Mark Surman, presidente ejecutivo de Mozilla y jefe de Mozilla.ai.
“Al trabajar en una IA confiable durante casi cinco años, sentí constantemente una mezcla de emoción y ansiedad”, dijo a TechCrunch en una entrevista por correo electrónico. «El último mes o dos de anuncios de IA de gran tecnología de ritmo rápido no ha sido diferente. Están surgiendo nuevas tecnologías realmente emocionantes: nuevas herramientas que han atraído de inmediato a artistas, fundadores… todo tipo de personas para hacer cosas nuevas. La ansiedad surge cuando te das cuenta que casi nadie está mirando las rejas.
Surman se refería a la erupción de modelos de IA en los últimos meses que, aunque impresionantes en sus capacidades, tienen implicaciones inquietantes en el mundo real. Cuando se lanzó, se podía engañar al generador de texto ChatGPT de OpenAI para que escribiera malware, identificara vulnerabilidades en el código de fuente abierta y creara sitios web de phishing que parecieran sitios de alto tráfico. Mientras tanto, la IA de texto a imagen, como Stable Diffusion, ha sido cooptada para crear deepfakes pornográficos, no consensuados y representaciones ultragráficas de violencia.
Los creadores de estos modelos dicen que están tomando medidas para combatir el abuso. Pero Mozilla sintió que no se estaba haciendo lo suficiente.
“Hemos estado trabajando en IA confiable en el lado de la investigación de interés público durante unos cinco años, con la esperanza de que otros actores de la industria con más experiencia en IA se intensifiquen para construir una tecnología más confiable”, dijo Surman. «No lo hicieron. Así que decidimos a mediados del año pasado que teníamos que hacerlo nosotros mismos y encontrar socios con ideas afines para hacerlo junto a nosotros. Luego buscamos a alguien con la combinación adecuada de experiencia académica e industrial en IA para liderarlo.
Financiado por una inversión inicial de $30 millones de la Fundación Mozilla, la organización matriz de Mozilla, Mozilla.ai es una subsidiaria de propiedad absoluta de la Fundación Mozilla, al igual que Mozilla Corporation (la organización responsable del desarrollo de Firefox) y Mozilla Ventures (el VC de la fondo de la Fundación Mozilla). Su director ejecutivo es Moez Draief, quien anteriormente fue científico jefe en el laboratorio de inteligencia artificial Noah’s Ark de Huawei y científico jefe global en la consultora Capgemini.
Karim Lakhani de Harvard, Navrina Singh y Surman de Credo serán los primeros miembros de la junta directiva de Mozilla.ai. Lakhani es presidente y cofundador del Instituto Digital, de Datos y Diseño de Harvard, mientras que Singh es miembro del Comité Asesor Nacional de IA del Departamento de Comercio de EE. UU., que asesora al presidente sobre una variedad de cuestiones éticas relacionadas con la IA.
Surman describe a Mozilla.ai como una empresa de investigación y una comunidad, una startup dedicada a ayudar a construir una pila de IA de código abierto confiable e independiente. Inicialmente, la prioridad de Mozilla.ai será crear un equipo de alrededor de 25 ingenieros, científicos y gerentes de productos para trabajar en sistemas de recomendación «confiables» y grandes modelos de lenguaje similares a GPT -4 de OpenAI. Pero la ambición más amplia de la empresa es establecer una red de empresas aliadas y grupos de investigación, incluidas nuevas empresas e instituciones académicas respaldadas por Mozilla Ventures, que comparten su visión.
«Creemos que existe un mercado comercial en la IA confiable, y ese mercado debe crecer si queremos cambiar la forma en que la industria integra la IA en las aplicaciones, productos y servicios que todos usamos a diario», dijo Surman. «Mozilla.ai, trabajando libremente con muchas empresas aliadas, investigadores y gobiernos, [has] la oportunidad de crear colectivamente una pila de IA de código abierto de «confianza primero». Si tenemos éxito, la industria principal aprovechará esta pila como parte de su kit de herramientas habitual, tal como lo han hecho con la pila de Linux y Apache durante las últimas dos décadas.
Mozilla.ai no lo hará solo, no del todo. Varias organizaciones sin fines de lucro tienen la misión de democratizar las herramientas de IA, incluido el Instituto EleutherAI recientemente creado, financiado por compañías como Canva y Hugging Face. También está el Instituto Allen para la IA, fundado por el difunto cofundador de Microsoft, Paul Allen, y el Instituto Alan Turing. Los pequeños esfuerzos prometedores incluyen Cohere For AI de Cohere, una startup de IA, y Distributed AI Research de Timnit Gebru, una organización de investigación descentralizada global.
Es revelador que Mozilla.ai no es una organización sin fines de lucro. Aunque está ligado a ciertos principios éticos (a saber, la Manifiesto de Mozilla), está abierto a difundir, y de hecho, apunta a expandir, sus exploraciones más exitosas en productos y negocios, además de proyectos de código abierto.
Draief ve esto como una ventaja más que como una desventaja y dice que le da a Mozilla.ai una flexibilidad de la que carecen las organizaciones sin fines de lucro. À son avis, il y a des récits édifiants comme OpenAI, qui a été fondé en tant qu’organisation à but non lucratif en 2015, mais a ensuite été contraint de passer à une structure à «profit plafonné» afin de financer ses recherches en clase.
«La gran pregunta es cuántas nuevas empresas de inteligencia artificial más nuevas, más pequeñas y confiables podrán mantenerse independientes». Draief le dijo a TechCrunch por correo electrónico. “Está claro que los grandes jugadores, especialmente las plataformas en la nube de Amazon, Google y Microsoft, están compitiendo para consolidar el espacio de la IA. Ahí es donde se gana todo el dinero. Y allí será difícil que las pequeñas empresas no queden atrapadas. en esta consolidación.
Siguiendo las tendencias de investigación de IA del momento y, no por casualidad, las áreas de investigación mejor financiadas, Mozilla.ai pasará los próximos meses desarrollando herramientas que, por ejemplo, permitirán a los usuarios cuestionar las fuentes detrás de las respuestas que Los chatbots de IA les dan. La compañía también buscará crear sistemas que brinden a los usuarios más control sobre la recomendación de contenido AI (es decir, los algoritmos que impulsan las transmisiones de YouTube, Twitter y TikTok), como sistemas que optimizan un recomendador para valores individuales o comunitarios, basándose en los existentes. Investigación Mozilla.
Draief no afirma que cambiar significativamente la pila de IA sea un proceso rápido. Si bien promete que Mozilla.ai enviará el código «este año», habla en términos de varios años.
Pero el éxito medible llevará más que tiempo.
Si la historia es una indicación, los marcos voluntarios y las herramientas puntuales no moverán mucho la aguja, si es que lo hacen. El desafío de Mozilla.ai será convencer a la industria de que su visión de una IA confiable es la correcta, y adoptar esa visión.
«Las características confiables de IA como estas parecen simples adiciones, pero todavía las vemos principalmente en el laboratorio», dijo Draief. «Mozilla.ai trabajará con los investigadores para convertir su trabajo en un código de trabajo y permitir su uso junto con herramientas de IA más tradicionales».
.jpg "Innovation Smart District")