ChatBI : Vers l'Intelligence d'Affaires Complexe en Langage Naturel via SQL
Jinqing Lian, Xinyi Liu, Yingxia Shao, Yang Dong, Ming Wang, Zhang Wei, Tianqi Wan, Ming Dong, Hailin Yan·
ChatBI est un système d'intelligence artificielle proposé pour améliorer la conversion du langage naturel en intelligence d'affaires (NL2BI), en se concentrant sur des dialogues interactifs et multi-tours. Il résout les défis associés à la conversion du langage naturel en SQL complexe, en utilisant un modèle réduit, une technologie de vues pour lier les schémas, et un processus par étapes. Cette approche permet d'améliorer la précision, notamment pour traiter les sémantiques complexes et les relations de comparaison, la rendant ainsi adaptée à une production à grande échelle. Par rapport aux méthodes NL2SQL existantes, ChatBI offre de meilleures performances dans des scénarios pratiques d'intelligence d'affaires, comme l'analyse des vues et du temps de lecture des vidéos. Ce système se distingue en utilisant des colonnes virtuelles, en décomposant les tâches et en exploitant les modèles de langage de grande taille (LLM) de manière plus efficace, surpassant les modèles de base comme DIN-SQL et MAC-SQL en termes de précision d'exécution utile.
L'objectif de l'article est de résoudre les défis rencontrés dans les tâches de conversion du langage naturel en intelligence d'affaires (NL2BI) en introduisant un processus par étapes pour décomposer efficacement le problème. Bien que ce problème ne soit pas entièrement nouveau, les méthodes existantes peinent à gérer les sémantiques complexes, les relations computationnelles et les relations de comparaison dans les scénarios d'intelligence d'affaires.
L'article cherche à valider l'hypothèse selon laquelle un flux de processus par étapes peut efficacement gérer les sémantiques complexes, les relations computationnelles et les relations de comparaison dans les scénarios d'intelligence d'affaires (BI).
L'article propose ChatBI, une technologie complète et efficace pour résoudre la tâche NL2BI, qui consiste à convertir le langage naturel en intelligence d'affaires. ChatBI introduit un flux de processus par étapes conçu pour décomposer le problème NL2BI, visant spécifiquement à traiter efficacement les sémantiques complexes, les relations computationnelles et les relations de comparaison dans les scénarios d'intelligence d'affaires. De plus, ChatBI combine la technologie des vues existante dans la communauté des bases de données pour résoudre les défis de liaison de schémas. Il décompose le problème en un problème de sélection de vue unique et utilise un modèle d'apprentissage automatique plus petit pour effectuer la liaison de schémas.
Le flux de processus par étapes introduit par ChatBI divise la tâche NL2BI en plusieurs étapes, utilisant des résultats intermédiaires pour synthétiser une réponse finale. Cette méthode permet d'améliorer les performances des Modèles de Langage de Grande Taille (LLM) sur des tâches complexes, en réduisant la complexité des requêtes SQL. Comparé aux méthodes précédentes, le flux par étapes de ChatBI évite aux LLM de devoir comprendre directement les relations complexes dans SQL, ce qui conduit à des résultats plus précis. De plus, ChatBI utilise des colonnes virtuelles et la technologie des vues pour résoudre les problèmes de liaison de schémas, offrant ainsi une solution plus efficace pour les tâches NL2BI. Les caractéristiques et avantages de ChatBI par rapport aux méthodes précédentes, comme décrites dans le document, incluent :
1. Flux de Processus par Étapes : ChatBI introduit un flux de processus par étapes qui décompose la tâche NL2BI en étapes gérables. Cette approche permet de traiter efficacement les sémantiques complexes, les relations computationnelles et les relations de comparaison dans les scénarios d'intelligence d'affaires. Grâce à cette décomposition, ChatBI parvient à gérer de manière optimale les aspects les plus complexes des requêtes en langage naturel dans un contexte BI.
2. Liaison de Schémas : ChatBI résout les défis de liaison de schémas en exploitant la technologie des vues existantes dans la communauté des bases de données. En décomposant le problème en un problème de sélection de vue unique et en utilisant un modèle d'apprentissage automatique plus petit pour la liaison de schémas, ChatBI améliore l'efficacité et la précision de la liaison des sources de données pertinentes.
3. Efficacité : ChatBI est conçu pour être à la fois complet et efficace, offrant une solution rationalisée pour convertir le langage naturel en intelligence d'affaires. Le flux de processus par étapes et les techniques de liaison de schémas contribuent à l'efficacité générale du système, permettant un traitement plus rapide et plus précis des données.
4. Gestion des Sémantiques Complexes : ChatBI est capable de gérer les sémantiques complexes présentes dans les requêtes en langage naturel liées à l'intelligence d'affaires. En décomposant le problème en phases distinctes, ChatBI peut interpréter et traiter efficacement les structures linguistiques nuancées, assurant ainsi une meilleure compréhension des requêtes.
5. Précision Améliorée : La combinaison du traitement par étapes et de la liaison de schémas dans ChatBI conduit à une précision accrue dans la conversion des requêtes en langage naturel en informations exploitables d'intelligence d'affaires. En abordant les principaux défis de compréhension et de liaison des sources de données, ChatBI améliore la précision globale des interactions BI.
Dans l'ensemble, ChatBI offre une approche novatrice pour résoudre la tâche NL2BI en introduisant un flux de processus structuré, en utilisant la technologie des vues de bases de données pour la liaison de schémas et en mettant l'accent sur l'efficacité et la précision dans le traitement des sémantiques complexes. Ces caractéristiques et avantages positionnent ChatBI comme une technologie prometteuse pour améliorer l'interaction entre les requêtes en langage naturel et les systèmes d'intelligence d'affaires.
Oui, plusieurs recherches liées existent dans ce domaine. Les méthodes existantes en Natural Language to SQL (NL2SQL) peuvent être classées en trois grands groupes : les méthodes pré-entraînées et de Supervised Fine-Tuning (SFT), les modèles de langage de grande taille (LLMs) basés sur l'ingénierie des prompts, et les LLMs spécifiquement entraînés pour le NL2SQL. Les chercheurs ont investi des efforts considérables dans le domaine du NL2SQL, avec des méthodes comme DIN-SQL, C3 et SQL-PaLM qui améliorent la précision de la génération de SQL à partir du langage naturel grâce à l'ingénierie des prompts. De plus, les avancées des Neural Information Processing Systems ont également contribué à la recherche dans ce domaine. Parmi les chercheurs notables dans les domaines du NL2SQL et du NL2BI, on trouve ceux représentant l'industrie, tels que les chercheurs de grandes entreprises comme Google, Microsoft, Amazon, Meta, Oracle, Snowflake, Databricks, Baidu, et Alibaba. Ces chercheurs se concentrent sur la tâche NL2BI, qui consiste à convertir le langage naturel en intelligence d'affaires à travers la technologie. La clé de la solution mentionnée dans l'article est le flux de processus par étapes conçu pour décomposer le problème NL2BI, visant à traiter efficacement les sémantiques complexes, les relations computationnelles et les relations de comparaison dans les scénarios BI.
Les expériences de l'article ont été conçues en se concentrant sur trois principales catégories : les méthodes pré-entraînées et de Supervised Fine-Tuning (SFT), les LLMs basés sur l'ingénierie des prompts, et les LLMs spécifiquement entraînés pour NL2SQL. Ces catégories incluent différentes approches pour convertir le langage naturel en SQL, allant de l'ajustement fin des modèles "encodeur-décodeur" à l'utilisation de LLMs spécialisés pour les tâches NL2SQL. De plus, les expériences ont impliqué l'évaluation des performances de ces méthodes sur de réelles tâches d'analyse dans le scénario Business Intelligence (BI), mettant en lumière les défis rencontrés dans la tâche NL2BI.
Le jeu de données utilisé pour l'évaluation quantitative est le jeu de données SRD. Le code est open source pour le modèle Qwen-72B.
Les expériences et résultats présentés dans l'article apportent un soutien solide aux hypothèses scientifiques devant être vérifiées. L'étude démontre l'efficacité du flux de processus par étapes et des colonnes virtuelles dans la gestion des sémantiques complexes, des calculs et des comparaisons dans les jeux de données, mettant en avant leur capacité à traiter des relations complexes. Cela confirme la pertinence des hypothèses selon lesquelles ces approches améliorent la gestion des tâches NL2BI.
L'article contribue en proposant un nouveau flux de processus pour gérer les sémantiques complexes, les comparaisons et les relations de calcul dans les scénarios BI. Il introduit également la métrique de l'utilité pour évaluer la précision de l'exécution des requêtes SQL et fournit des perspectives sur l'évaluation des coûts économiques basée sur les tokens de prompt et de réponse. De plus, l'article discute de l'importance de l'utilisation de modèles plus petits et moins chers pour optimiser la liaison de schémas et réduire le nombre de tokens nécessaires à l'analyse des données.
Des recherches supplémentaires peuvent être menées pour explorer des techniques de prompting efficaces visant à améliorer la précision des Modèles de Langage de Grande Taille (LLM) dans les tâches NL2SQL. En outre, l'étude de l'utilisation des colonnes virtuelles générées par les LLMs pour faciliter la mise en cache et accélérer les calculs pourrait être un domaine d'intérêt. Enfin, il serait précieux d'approfondir les applications pratiques de la technologie NL2BI dans des systèmes de production réels, en mettant particulièrement l'accent sur les scénarios de dialogue multi-tours (MRD).
Le résumé ci-dessus a été généré automatiquement par Powerdrill.
Cliquez sur le lien pour voir la page de résumé et d'autres documents recommandés.