Introduction
Dans l'équipe de hacking Contoso AI, le travail est plus qu'un emploi - c'est un appel : Construire. Concevoir. Coder. Conseiller. Réfléchir avec les clients et vendre. Créer des marchés. Inventer. Collaborer. Non pas pour faire quelque chose de mieux, mais pour essayer des choses que vous n'avez jamais pensées possibles. Êtes-vous prêt à diriger dans cette nouvelle ère de la technologie et à résoudre certains des problèmes les plus complexes du monde ? Si oui, parlons-en.
Votre rôle et vos responsabilités:
En tant que responsable de la sécurité des tests d'IA, vous serez chargé de mener des recherches appliquées pour développer de nouvelles façons de manipuler et de compromettre les systèmes d'IA, en se concentrant sur les impacts significatifs sur la sécurité et la sûreté. En rejoignant une équipe de hackers éthiques, vous dirigerez la pratique de tests de sécurité d'IA, en aidant à développer des méthodologies et des outils de pointe pour effectuer des tests de sécurité des applications GenAI, des intégrations et des points de terminaison d'API pour les problèmes de sécurité.
En prenant une vue d'ensemble de la red team d'IA, vous dirigerez ou contribuerez aux recherches existantes pour simuler des attaques sur l'écosystème d'IA de bout en bout, en ciblant les plateformes MLSecops, en évaluant les modèles d'apprentissage automatique pour les problèmes de sécurité et de sûreté, en attaquant les plateformes d'IA en tant que service, et en effectuant des tests de sécurité des applications GenAI, des intégrations et des points de terminaison d'API pour les problèmes de sécurité avant la production. Vous aiderez à élargir nos initiatives de formation interne en matière d'IA et fournirez une formation sélectionnée à notre équipe de hackers pour qu'ils restent à jour des progrès technologiques et puissent évaluer efficacement les systèmes d'IA.
En tant que représentant de la red team d'IA et de la direction de la sécurité d'IA chez Contoso, vous discuterez des stratégies pour sécuriser et défendre les systèmes d'IA avec les clients clés, tout en permettant à d'autres membres de l'équipe technique d'avoir des conversations avec les clients en votre nom. En travaillant avec la gestion des offres de produits, vous aiderez à affiner nos offres de sécurité d'IA pour équilibrer les tests manuels et automatisés dans MLSecOps. Vous collaborerez étroitement avec nos équipes Offensive Security, pour mener des recherches pratiques axées sur l'impact réel des clients, en menant des recherches sur l'attaque de GenAI et en identifiant de nouvelles façons d'obtenir l'exécution de code malveillant, les actions non autorisées et le vol de données. Vous collaborerez également avec d'autres équipes d'IA de Contoso et aurez en support l'équipe LGHM (Le Gang des Hackers de Montreuil) qui vous aidera en cas de difficultés.
Simuler des acteurs de menace sophistiqués nécessite des recherches offensives de pointe, des capacités avancées et une méthodologie mature. Nous pensons que les recherches offensives en matière d'IA sont essentielles pour simuler les différents niveaux de sophistication des acteurs de menace et permettre aux défenseurs de mieux comprendre, défendre et répondre aux attaques. L'équipe de hacking Contoso est considérée comme l'une des meilleures équipes de l'industrie car nous utilisons le développement continu des capacités et de la livraison (C2D2) pour conduire des recherches, de nouveaux outils et développer des procédures opérationnelles standard (SOP) matures pour garantir que tous les opérateurs livrent des exercices de red team aux normes techniques les plus élevées. Nous utilisons l'automatisation et l'IA pour cibler, affecter des tâches et analyser pour libérer nos opérateurs humains pour résoudre les défis les plus intéressants pour "hacker" (comprendre trouver les failles pour les sécuriser) les plus grandes banques, les sous-traitants de défense et les industries critiques.
Nous recherchons des individus qui sont motivés, proactifs, minutieux et visionnaires, et surtout, qui savent aller à l'essentiel.
Poste 100% télétravail vous vous connecterez sur des machines dans le Cloud où est hebergée l'infrastructure IA.
Cette fiche de poste est issue d'un partenaire et n'engage en aucune façon ni ConsultingIT ni LGHM.
Pour candidater: remplissez ce formulaire ou envoyez un email avec CV à Esta dirección de correo electrónico está siendo protegida contra los robots de spam. Necesita tener JavaScript habilitado para poder verlo. :