La technologie d’entreprise peut-elle se racheter grâce à l’IA générative ? Vishal Sikka explique comment bien faire l'IA et éviter les vendeurs d'huile de serpent générative

Lors de ma discussion précédente avec le Dr Vishal Sikka, fondateur et PDG de la startup tendance d'IA Vianai Systems, nous avons parlé des hauts et des bas des montagnes russes de l'IA - et Sikka en a vu beaucoup.

Nous avons expliqué pourquoi Sikka avait signé cette lettre largement incomprise qui mettait en garde contre les dangers de l’IA et incitait à cette fameuse pause.

Bien sûr, nous avons parlé des problèmes des LLM, y compris l'hallucination et l'explicabilité : "Tolérance zéro" pour les hallucinations - Dr Vishal Sikka sur la façon dont Vianai crée des applications d'IA et les émotions mitigées du cycle de battage médiatique de l'IA. Nous avons expliqué comment Vianai aborde ce problème dans le contexte de leurs applications d’IA de nouvelle génération, telles que :

Mais il y a plus. Quels sont les conseils de Sikka aux clients évaluant les fournisseurs d’IA générative ? Après tout, le succès d’une entreprise grâce à l’IA générative est un ensemble de sauts totalement différents de ceux d’expérimenter ChatGPT sur votre temps libre.

Ma liste partielle des obstacles de l'entreprise d'IA générative : gestion des risques, problèmes de données client/tarification, boîte noire/explicabilité, atténuation des limitations techniques des LLM, difficultés liées à l'utilisation de LLM tiers et à leur personnalisation avec les données de formation des clients tout en respectant la confidentialité des données et en optant pour -sorties, implications pour la tarification client, avantages/inconvénients des cas d'utilisation, etc.

C’est une liste imposante d’obstacles, et elle est loin d’être complète. Et pourtant, comme je l'ai dit à Sikka,Je considère l’IA générative comme une opportunité de rédemption technologique pour les entreprises . Il semble que la technologie grand public soit à l'avant-garde de l'innovation des entreprises depuis des décennies maintenant, avec la culture des applications pour téléphones intelligents comme preuve A. Mais l'IA générative a cruellement besoin de garde-fous responsables, et tous les facteurs que j'ai cités ci-dessus - n'est-ce pas ce dans quoi les entreprises excellent ?

Comme je l'ai dit à Sikka :

Ce que l’entreprise impose à l’IA, à mon avis, correspond exactement à ce dont elle a besoin à l’heure actuelle, à savoir des éléments comme la sécurité, la surveillance juridique, la surveillance éthique et l’utilisation appropriée des données. Ainsi, par exemple, l'une des choses que Vianai aborde et que ChatGPT n'aborde pas est : différents types de sources de données qui vont vous donner un résultat plus propre. Je pense que vous résolvez également, dans ces outils, certains des problèmes d'explicabilité, du moins en ce qui concerne la provenance de l'information.

Sikka est d'accord : « C'est l'occasion pour les entreprises de montrer la voie vers une IA digne de confiance et responsable. » Un autre élément potentiel pour une meilleure IA ? Une certaine forme d’apprentissage par renforcement. OpenAI en a également fait une version par force brute, pour mettre des « garde-fous » de préjugés/intolérance sur ChatGPT, mais non sans controverses sur l'approvisionnement en main-d'œuvre. Mais en théorie, les entreprises pourraient utiliser la formation itérative sur modèles pour permettre aux experts du domaine d’affiner les résultats souhaités. Comme l'explique Sikka, ces approches peuvent également renforcer la confiance des utilisateurs :

L’apprentissage par renforcement est l’un des moyens d’y parvenir. L'autre partie est simplement conversationnelle. Mon mentor avait cette merveilleuse astuce où il vous demandait : « Laissez-moi vous rejouer ça ». Disons que vous avez posé une question compliquée. Il disait : « Laissez-moi rejouer ça ; Vouliez-vous poser cette question ? Vous pourriez dire : « Apportez une correction ». Et puis il répondrait à la question. Bien sûr, c’était aussi une sorte de truc, car cela lui donnait le temps de réfléchir.

Nous faisons cela [chez Vianai] lorsque nous ne sommes pas sûrs de l'intention de l'utilisateur. Donc, si vous posez une question qui implique des jointures, ou des jointures internes complexes, ou quelque chose de compliqué sur plusieurs tables, nous la remettrons alors devant vous en disant : « Hé, tu voulais dire ça ? Et l'utilisateur dira : « Oui, c'est ce que je voulais dire » ou il le corrigera. C’est donc un moyen très simple de lever l’ambiguïté ou de clarifier l’intention de l’utilisateur.

De même, lorsque nous fournissons une réponse, qu'il s'agisse de données textuelles ou de données tabulaires structurées, nous la présentons aux utilisateurs en leur disant : « Voici d'où nous avons obtenu les données ; c'est la requête qui a été exécutée, et voici la réponse. Ce n'est pas facile à faire. Mais c’est ce que nous faisons – et c’est nécessaire pour les entreprises, afin qu’elles aient confiance dans les résultats que vous leur proposez.