Un drone pulvérise un pesticide dans un champ de blé.
L’intelligence artificielle (IA) est sur le point d’entraîner une révolution agricole et d’aider à relever le défi de nourrir la population mondiale croissante de manière durable. Mais les chercheurs mettent en garde contre le fait que l’utilisation des nouvelles technologies d’IA à grande échelle comporte des risques énormes qui ne sont pas pris en compte.
Imaginez un champ de blé qui s’étend jusqu’à l’horizon, cultivé pour la farine qui sera transformée en pain pour nourrir des villes entières. Imaginez que tous les pouvoirs relatifs au labourage, à la plantation, à la fertilisation, à la surveillance et à la récolte de ce champ ont été délégués à l’intelligence artificielle : des algorithmes qui contrôlent les systèmes d’irrigation goutte à goutte, les tracteurs autopilotés et les moissonneuses-batteuses, suffisamment intelligents pour répondre aux conditions météorologiques et aux besoins exacts de la culture. Imaginez ensuite qu’un pirate informatique vienne tout gâcher.
“L’idée de machines intelligentes gérant des fermes n’est pas de la science-fiction”. – Asaf Tzachor
Une nouvelle analyse des risques, publiée récemment dans le journal. Nature Machine IntelligenceUne nouvelle analyse des risques, publiée récemment dans la revue Nature Machine Intelligenceavertit que l’utilisation future de l’intelligence artificielle dans l’agriculture s’accompagne de risques potentiels importants pour les exploitations agricoles, les agriculteurs et la sécurité alimentaire, qui sont mal compris et sous-estimés.
“L’idée de machines intelligentes dirigeant des exploitations agricoles n’est pas de la science-fiction. De grandes entreprises sont déjà à l’avant-garde de la prochaine génération de robots agricoles autonomes et de systèmes d’aide à la décision qui remplaceront les humains sur le terrain”, a déclaré le Dr Asaf Tzachor du Centre d’étude du risque existentiel (CSER) de l’Université de Cambridge, premier auteur de l’article.
“Mais jusqu’à présent, personne ne semble s’être posé la question de savoir s’il y a des risques associés au déploiement rapide de l’IA agricole”, a-t-il ajouté.
Malgré l’énorme promesse de l’IA d’améliorer la gestion des cultures et la productivité agricole, les risques potentiels doivent être abordés de manière responsable et les nouvelles technologies correctement testées dans des contextes expérimentaux pour s’assurer qu’elles sont sûres, et sécurisées contre les défaillances accidentelles, les conséquences involontaires et les cyber-attaques, disent les auteurs.
Dans le cadre de leurs recherches, les auteurs ont dressé un catalogue des risques qui doivent être pris en compte dans le développement responsable de l’IA pour l’agriculture – et des moyens d’y remédier. Ils tirent la sonnette d’alarme sur les cyber-attaquants qui pourraient perturber les exploitations agricoles commerciales utilisant l’IA, en empoisonnant des ensembles de données ou en mettant hors service des pulvérisateurs, des drones autonomes et des moissonneuses robotisées. Pour s’en prémunir, ils suggèrent que des “hackers en chapeau blanc” aident les entreprises à découvrir toute faille de sécurité pendant la phase de développement, afin que les systèmes puissent être protégés contre les vrais pirates.
Dans un scénario associé à un échec accidentel, les auteurs suggèrent qu’un système d’IA programmé uniquement pour obtenir le meilleur rendement des cultures à court terme pourrait ignorer les conséquences environnementales de cet objectif, entraînant une surconsommation d’engrais et une érosion des sols à long terme. L’application excessive de pesticides dans le but d’obtenir des rendements élevés pourrait empoisonner les écosystèmes ; l’application excessive d’engrais azotés polluerait le sol et les cours d’eau environnants. Les auteurs suggèrent d’impliquer des écologistes appliqués dans le processus de conception des technologies afin de s’assurer que ces scénarios sont évités.
Les machines autonomes pourraient améliorer les conditions de travail des agriculteurs, en les soulageant du travail manuel. Mais sans une conception technologique inclusive, les inégalités socio-économiques qui sont actuellement ancrées dans l’agriculture mondiale – y compris les discriminations de genre, de classe et d’ethnie – demeureront.
“Les systèmes agricoles experts en IA qui ne tiennent pas compte de la complexité des apports de main-d’œuvre ignoreront, et potentiellement entretiendront, l’exploitation des communautés défavorisées”, a averti M. Tzachor.
Divers agrobots et machines de pointe, tels que des drones et des capteurs, sont déjà utilisés pour recueillir des informations sur les cultures et soutenir la prise de décision des agriculteurs : détection des maladies ou d’une irrigation insuffisante, par exemple. Et les moissonneuses-batteuses autopilotées peuvent rentrer une récolte sans l’intervention d’un opérateur humain. Ces systèmes automatisés visent à rendre l’agriculture plus efficace, en réduisant les coûts de main-d’œuvre, en optimisant la production et en minimisant les pertes et les déchets. Cela conduit à une augmentation des revenus des agriculteurs et à un recours accru à l’IA agricole.
Cependant, les petits producteurs qui cultivent la majorité des exploitations agricoles dans le monde et nourrissent de larges pans de ce que l’on appelle le Sud sont susceptibles d’être exclus des avantages liés à l’IA. La marginalisation, les faibles taux de pénétration d’Internet et la fracture numérique pourraient empêcher les petits exploitants d’utiliser les technologies avancées,creuser les écarts entre les agriculteurs commerciaux et les agriculteurs de subsistance.
Avec une estimation de deux milliards de personnes touchées par l’insécurité alimentaire, dont quelque 690 millions de personnes souffrant de malnutrition et 340 millions d’enfants souffrant de carences en micronutriments, les technologies d’intelligence artificielle et l’agriculture de précision promettent des avantages substantiels pour la sécurité alimentaire et nutritionnelle face au changement climatique et à une population mondiale croissante.
“L’IA est saluée comme le moyen de révolutionner l’agriculture. Alors que nous déployons cette technologie à grande échelle, nous devrions examiner de près les risques potentiels et chercher à les atténuer dès la conception de la technologie”, a déclaré le Dr Seán Ó hÉigeartaigh, directeur exécutif du CSER et co-auteur de la nouvelle recherche.
Référence : “L’intelligence artificielle responsable en agriculture nécessite une compréhension systémique des risques et des externalités” par Asaf Tzachor, Medha Devare, Brian King, Shahar Avin et Seán Ó hÉigeartaigh, 23 février 2022,Nature Machine Intelligence.
DOI: 10.1038/s42256-022-00440-4
Cette recherche a été financée par Templeton World Charity Foundation, Inc.
