STAGE – Ingénieur en Sécurité des modèles génératifs de langage : benchmark robustesse aux attaques par prompt injection (H/F) THALES

Palaiseau (91)Stage
Il y a 11 heuresSoyez parmi les premiers à postuler

Description du poste

Lieu : Palaiseau, France

Construisons ensemble un avenir de confiance

Thales est un leader mondial des hautes technologies spécialisé dans trois secteurs d'activité : Défense & Sécurité, Aéronautique & Spatial, et Cyber & Digital. Il développe des produits et solutions qui contribuent à un monde plus sûr, plus respectueux de l'environnement et plus inclusif. Le Groupe investit près de 4 milliards d'euros par an en Recherche & Développement, notamment dans des domaines clés de l'innovation tels que l'IA, la cybersécurité, le quantique, les technologies du cloud et la 6G. Thales compte près de 81 000 collaborateurs dans 68 pays.

Nos engagements, vos avantages

  • Notre savoir-faire technologique

  • Notre attention portée à l'équilibre des collaborateurs

  • Un environnement inclusif et bienveillant

  • Un engagement sociétal et environnemental reconnu (Thales Solidarity, indice CAC 40 ESG…)

Votre quotidien

Thales Research&Technology, notre centre de recherche dans les domaines matériels, et CortAIx Labs, notre centre de recherche en IA et digital ont pour mission de proposer des innovations de ruptures, de maintenir et d'accroitre l'avance technologique et d'en assurer la compétitivité pour le groupe.

Thales s'engage pour l'emploi et l'insertion des personnes en situation de handicap. A ce titre, notre établissement est reconnu Organisme Handi-Accueillant.

Dans un contexte d'intégration croissante des modèles de langage (LLM) dans diverses applications, ces derniers représentent des cibles potentielles pour des attaques sophistiquées, notamment des attaques d'injection de prompts. Ce stage se concentrera sur l'évaluation de la robustesse de LLM, qu'ils soient open source ou développés en partenariat avec Thales. L'objectif principal est de mesurer et renforcer la sécurité des systèmes utilisant des LLM contre ces menaces, notamment celles développées par l'équipe Friendly Hackers.

Le projet s'appuie sur le cadre MITRE ATLAS, qui classe et répertorie les menaces émergentes liées à l'IA, afin de définir des contre-mesures adaptées. Les objectifs incluent la reproduction d'attaques réelles dans un environnement contrôlé, permettant d'évaluer la résilience des LLM. Cette démarche s'accompagne de l'utilisation du référentiel MITRE ATLAS pour structurer l'analyse des attaques, en alignant les défenses avec les tactiques et techniques des attaquants.

Votre profil

STAGE - Ingénieur en Sécurité des modèles génératifs de langage : benchmark robustesse aux attaques par prompt injection (H/F)

Vous avez envie de découvrir le domaine de la recherche et de l'innovation au sein d'un Groupe Leader mondial ?

Etudiant en Ecole d'ingénieur ou formation équivalente, en sciences des données ou en apprentissage automatique ?

Vous êtes à la recherche d'un stage de fin d'études de 5 à 6 mois ?

Vous avez un intérêt particulier pour l'apprentissage automatique et ses enjeux éthiques ?

L'idée de participer à un projet de recherche sur des thématiques d'apprentissage automatique novatrices vous anime ?

Curiosité et rigueur sont des atouts que l'on vous reconnait ?

Alors ce poste est fait pour vous !

Tous nos stages sont conventionnés et soumis à une gratification dont le montant est déterminé selon votre niveau d'études.Thales, entreprise Handi-Engagée, reconnait tous les talents. La diversité est notre meilleur atout. Postulez et rejoignez nous !

L'entreprise : THALES

Chez Thales, nous sommes fiers de travailler ensemble pour imaginer des solutions innovantes qui contribuent à construire un avenir plus sûr, plus vert et plus inclusif. Un avenir de confiance. Mais ces technologies ne viennent pas de nulle part. L'intelligence humaine est le moteur derrière la technologie qui fait la renommée de Thales. Les projets que nous conduisons sont complexes et nos clients exigeants. Pour répondre aux besoins actuels et futurs de nos clients, nous maîtrisons plus d'une centaine de disciplines, de l'optique à la physique quantique, du traitement du signal à la connectivité et à l'intelligence artificielle. Rejoindre Thales, c'est repousser les limites de la technologie et la mettre au service du progrès et du développement durable de nos sociétés. C'est donc être au cœur d'une formidable aventure technique. Une attention portée à l'équilibre des collaborateurs au service de leur réussite. C'est pourquoi, notamment, nous nous efforçons de créer un environnement de travail accueillant et d'accorder la flexibilité nécessaire à l'équilibre entre vie professionnelle et vie personnelle. Nous savons que cet équilibre est essentiel à votre épanouissement et à la réussite des projets que nous vous confierons. Des parcours professionnels riches. Chez Thales, nous jouons collectif. Ce qui signifie travailler en équipe, côtoyer des experts et donc apprendre et développer ses compétences en permanence tout en faisant bénéficier le Groupe de son savoir-faire. C'est aussi la possibilité d'évoluer, de changer de fonction ou d'activité, voire de pays.
Référence : 26100399

Recommandé pour vous

Développeur IA - (H/F) - En alternance OpenClassrooms
Grigny (91)Alternance / Apprentissage 900 € - 1 600 € par mois Il y a 3 jours
Ingénieur système de supervision H/F Groupe Talents Handicap
Essonne (91)Alternance / Apprentissage Il y a 9 jours
Stage 6 mois - Ingénieur Machine Learning IT (Audit) H/F BNP PARIBAS
Jardin du Luxembourg (75)Stage Il y a 14 jours