Comment faire de ChatGPT un copilote de la cybersécurité
(2023/03/21)
- Reference: 2023-03-21T04_00_00Z
- News link: https://www.toolinux.com/?comment-faire-de-chatgpt-un-copilote-de-la-cybersecurite
- Source link:
Comment faire de ChatGPT un copilote de la cybersécurité
mardi 21 mars 2023
Le modèle d’IA peut plus facilement filtrer les activités malveillantes dans la télémétrie XDR, améliorer l’efficacité des filtres anti spam et simplifier l’analyse des binaires LotL, selon un récent rapport. Explications.
Une [1]nouvelle étude , commanditée par Sophos, indique comment le secteur de la cybersécurité peut exploiter GPT-3 ou GPT-4, le modèle linguistique sur lequel repose l’intelligence artificielle ChatGPT, comme copilote pour contribuer à déjouer les cyberattaques.
L’étude, intitulée [2]Applying AI Language Processing to Cyber Defenses , détaille les projets de son département X-Ops au moyen des vastes modèles linguistiques de GPT-3 afin de simplifier la recherche des activités malveillantes dans les ensembles de données des logiciels de sécurité, de filtrer plus efficacement les spams et d’accélérer l’analyse des attaques par binaires LotL (Living off the Land).
Les chercheurs de l’éditeur, parmi lesquels le Principal Data Scientist Younghoo Lee de SophosAI, travaillent actuellement sur trois prototypes visant à démontrer le potentiel de GPT-3 en tant qu’assistant des équipes de cyberdéfense . Tous trois s’appuient sur une technique appelée few-shot learning (FSL) pour entraîner le modèle d’IA avec un nombre restreint d’échantillons, réduisant ainsi le besoin de collecter un volume important de données préclassifiées.
La première application testée avec la méthode FSL porte sur une interface d’interrogation en langage naturel destinée à filtrer les activités malveillantes dans la télémétrie des logiciels de sécurité, plus précisément par rapport à son produit EDR (Endpoint Detection & Response). Cette interface permet aux équipes de cyberdéfense d’explorer les données télémétriques à l’aide de commandes élémentaires en anglais courant, ce qui leur évite d’avoir à maîtriser le langage SQL ou la structure sous-jacente d’une base de données.
Ensuite, Sophos a testé un nouveau filtre antispam faisant appel à ChatGPT et constaté que, [3]comparé à d’autres modèles de Machine Learning employés à cette fin, le filtre utilisant GPT-3 s’est avéré nettement plus fiable. Enfin, les chercheurs de Sophos sont parvenus à créer un programme qui simplifie le processus de rétro-ingénierie des lignes de commande des binaires LotL. Si cette rétro-ingénierie n’est pas notoirement difficile, elle n’en est pas moins critique pour comprendre le comportement de ces binaires et mettre un terme à ces types d’attaques à l’avenir.
[4]
[1] https://news.sophos.com/en-us/2023/03/16/gpt-for-you-and-me-applying-ai-language-processing-to-cyber-defenses/
[2] https://news.sophos.com/en-us/2023/03/16/gpt-for-you-and-me-applying-ai-language-processing-to-cyber-defenses/
[3] https://ai.sophos.com/2022/12/15/natural-language-query-interface-for-xdr-sql/
[4] https://www.toolinux.com/?comment-faire-de-chatgpt-un-copilote-de-la-cybersecurite#forum
mardi 21 mars 2023
Le modèle d’IA peut plus facilement filtrer les activités malveillantes dans la télémétrie XDR, améliorer l’efficacité des filtres anti spam et simplifier l’analyse des binaires LotL, selon un récent rapport. Explications.
Une [1]nouvelle étude , commanditée par Sophos, indique comment le secteur de la cybersécurité peut exploiter GPT-3 ou GPT-4, le modèle linguistique sur lequel repose l’intelligence artificielle ChatGPT, comme copilote pour contribuer à déjouer les cyberattaques.
L’étude, intitulée [2]Applying AI Language Processing to Cyber Defenses , détaille les projets de son département X-Ops au moyen des vastes modèles linguistiques de GPT-3 afin de simplifier la recherche des activités malveillantes dans les ensembles de données des logiciels de sécurité, de filtrer plus efficacement les spams et d’accélérer l’analyse des attaques par binaires LotL (Living off the Land).
Les chercheurs de l’éditeur, parmi lesquels le Principal Data Scientist Younghoo Lee de SophosAI, travaillent actuellement sur trois prototypes visant à démontrer le potentiel de GPT-3 en tant qu’assistant des équipes de cyberdéfense . Tous trois s’appuient sur une technique appelée few-shot learning (FSL) pour entraîner le modèle d’IA avec un nombre restreint d’échantillons, réduisant ainsi le besoin de collecter un volume important de données préclassifiées.
La première application testée avec la méthode FSL porte sur une interface d’interrogation en langage naturel destinée à filtrer les activités malveillantes dans la télémétrie des logiciels de sécurité, plus précisément par rapport à son produit EDR (Endpoint Detection & Response). Cette interface permet aux équipes de cyberdéfense d’explorer les données télémétriques à l’aide de commandes élémentaires en anglais courant, ce qui leur évite d’avoir à maîtriser le langage SQL ou la structure sous-jacente d’une base de données.
Ensuite, Sophos a testé un nouveau filtre antispam faisant appel à ChatGPT et constaté que, [3]comparé à d’autres modèles de Machine Learning employés à cette fin, le filtre utilisant GPT-3 s’est avéré nettement plus fiable. Enfin, les chercheurs de Sophos sont parvenus à créer un programme qui simplifie le processus de rétro-ingénierie des lignes de commande des binaires LotL. Si cette rétro-ingénierie n’est pas notoirement difficile, elle n’en est pas moins critique pour comprendre le comportement de ces binaires et mettre un terme à ces types d’attaques à l’avenir.
[4]
[1] https://news.sophos.com/en-us/2023/03/16/gpt-for-you-and-me-applying-ai-language-processing-to-cyber-defenses/
[2] https://news.sophos.com/en-us/2023/03/16/gpt-for-you-and-me-applying-ai-language-processing-to-cyber-defenses/
[3] https://ai.sophos.com/2022/12/15/natural-language-query-interface-for-xdr-sql/
[4] https://www.toolinux.com/?comment-faire-de-chatgpt-un-copilote-de-la-cybersecurite#forum