Safe Superintelligence Inc., un laboratoire pionnier qui tente de développer une superintelligence artificielle sûre et éthiquement alignée pour le bénéfice de l'humanité, a de nouveau fait la une des journaux après avoir conclu un accord important avec Nvidia Corp. qui lui donnera accès à de vastes ressources informatiques.
L'accord donnera à SSI l'accès aux unités de traitement graphique Vera Rubin de Nvidia, augmentant ainsi la quantité de calcul disponible pour la startup d'un « ordre de grandeur ».
SSI est remarquable car elle a été fondée par Illya Sustskever, Daniel Levy et Daniel Gross, anciens chercheurs de l'OpenAI Group PBC, en juin 2024. La startup a déclaré au moment de son lancement qu'elle essayait de développer une forme sûre et éthique de superintelligence qui bénéficierait à l'ensemble de l'humanité, sans se laisser distraire par les objectifs de revenus et la nécessité de lancer des produits commerciaux. SSI est resté plutôt silencieux depuis son lancement, même s'il est brièvement revenu sous les projecteurs l'année dernière lorsque Gross, qui en était le directeur général, a quitté l'entreprise pour rejoindre la nouvelle unité Superintelligence Labs de Meta Platforms Inc.
Nvidia a déclaré qu'elle investissait dans SSI après avoir obtenu un accès rare à ses recherches secrètes. Il a ajouté que SSI a réussi à franchir un certain nombre d'étapes de recherche importantes qui montrent qu'elle fait de réels progrès vers son objectif. Selon Bloomberg, l'accord est évalué à plusieurs milliards de dollars et contribuera à « accélérer la prochaine étape de croissance de SSI ».
« Nous avons des recherches qui méritent d'être intensifiées, et avoir accès à un gros ordinateur Nvidia nous permettra de le faire », a déclaré Sutskever à Bloomberg. « Nous sommes convaincus que notre gros pari sur la plateforme Vera Rubin nous fera passer au niveau supérieur. »
Sutskever reçoit beaucoup d'attention de la part de ses pairs car il est considéré comme l'un des esprits les plus intelligents de l'industrie de l'IA. Il est devenu célèbre pour la première fois lorsqu'il a co-écrit et co-créé AlexNet aux côtés des chercheurs Alex Krizhevsky et Geoffrey Hinton, démontrant qu'il est possible de faire évoluer des réseaux neuronaux profonds avec de vastes clusters de GPU. Il s’agit d’un élément de recherche clé qui a contribué à jeter les bases des modèles d’IA générative actuels. Suite à ce travail, Sutskever a contribué à la création d’OpenAI, où il a dirigé l’équipe Superalignment de cette organisation, aujourd’hui disparue. Il a ensuite quitté l'entreprise à la suite d'une tentative infructueuse de plusieurs de ses actionnaires d'évincer le PDG Sam Altman, invoquant une « rupture de communication » avec son ancien patron.
L'accent continu de SSI sur le développement sûr et éthique de la superintelligence de l'IA distingue l'entreprise de nombre de ses pairs, qui ont abaissé la barre en termes de sécurité dans leur quête de succès commercial. En revanche, l'ancienne société de Sutskever semble avoir complètement perdu de vue sa mission initiale, qui était de faire progresser l'intelligence numérique de manière à bénéficier à l'humanité dans son ensemble, sans être contrainte par la nécessité de générer des revenus.
Nvidia a déclaré qu'elle aiderait non seulement SSI à atteindre ses objectifs, mais qu'elle collaborerait également avec la startup pour faire progresser ses plates-formes de calcul actuelles et futures, en exploitant ses « connaissances uniques sur l'avenir de l'IA ».
