๐๐ž๐ฐ ๐†๐จ๐ฏ๐ž๐ซ๐ง๐š๐ง๐œ๐ž ๐…๐ซ๐จ๐ง๐ญ๐ข๐ž๐ซ๐ฌ: ๐€๐Ÿ๐Ÿ๐ซ๐จ๐ง๐ญ๐š๐ซ๐ž ๐ฅ๐ž ๐’๐Ÿ๐ข๐๐ž ๐„๐ญ๐ข๐œ๐ก๐ž ๐๐ž๐ฅ๐ฅ’๐ˆ๐€ ๐Œ๐ข๐ฅ๐ข๐ญ๐š๐ซ๐ž

๐๐ž๐ฐ ๐†๐จ๐ฏ๐ž๐ซ๐ง๐š๐ง๐œ๐ž ๐…๐ซ๐จ๐ง๐ญ๐ข๐ž๐ซ๐ฌ: ๐€๐Ÿ๐Ÿ๐ซ๐จ๐ง๐ญ๐š๐ซ๐ž ๐ฅ๐ž ๐’๐Ÿ๐ข๐๐ž ๐„๐ญ๐ข๐œ๐ก๐ž ๐๐ž๐ฅ๐ฅ’๐ˆ๐€ ๐Œ๐ข๐ฅ๐ข๐ญ๐š๐ซ๐ž

Se ve lo siete perso all’inizio di quest’anno, il nostro importante articolo di revisione su un tema di cruciale importanza strategica รจ una lettura caldamente consigliata: “๐‘ฌ๐‘ป๐‘ฏ๐‘ฐ๐‘ช๐‘จ๐‘ณ ๐‘ช๐‘ฏ๐‘จ๐‘ณ๐‘ณ๐‘ฌ๐‘ต๐‘ฎ๐‘ฌ๐‘บ ๐‘ถ๐‘ญ ๐‘จ๐‘ฐ ๐‘ฐ๐‘ต ๐‘ด๐‘ฐ๐‘ณ๐‘ฐ๐‘ป๐‘จ๐‘น๐’€ ๐‘ช๐‘ถ๐‘ด๐‘ด๐‘จ๐‘ต๐‘ซ ๐‘จ๐‘ต๐‘ซ ๐‘ช๐‘ถ๐‘ต๐‘ป๐‘น๐‘ถ๐‘ณ ๐‘บ๐’€๐‘บ๐‘ป๐‘ฌ๐‘ด๐‘บ” (Sfide etiche dell’IA nei sistemi di comando e controllo militari).

๐—”๐˜‚๐˜๐—ผ๐—ฟ๐—ถ: Giovanni Ronconi (Framework security s.r.l) e Cristina Brasi (FBA-LAB)

๐‹๐š ๐’๐Ÿ๐ข๐๐š: ๐‹’๐ˆ๐€ ๐„๐ซ๐ž๐๐ข๐ญ๐š ๐ข ๐๐ซ๐ž๐ ๐ข๐ฎ๐๐ข๐ณ๐ข ๐‚๐จ๐ ๐ง๐ข๐ญ๐ข๐ฏ๐ข ๐”๐ฆ๐š๐ง๐ข

L’integrazione dell’IA nei sistemi di Comando e Controllo (C2), come il JADC2, sta ridefinendo la guerra moderna. Tuttavia, la nostra analisi approfondita rivela che la vera vulnerabilitร  non รจ solo tecnologica, ma cognitiva.

L’articolo dimostra che i ๐ซ๐ข๐ฌ๐œ๐ก๐ข ๐ž๐ญ๐ข๐œ๐ข ๐๐ž๐ฅ๐ฅ’๐ˆ๐€ derivano direttamente dai ๐›๐ข๐š๐ฌ ๐œ๐จ๐ ๐ง๐ข๐ญ๐ข๐ฏ๐ข degli operatori e dei data scientist che addestrano i modelli. Ciรฒ puรฒ portare a conseguenze involontarie e non etiche in scenari di combattimento, sollevando questioni irrisolte riguardo a:

  • ๐๐ซ๐จ๐ฉ๐จ๐ซ๐ณ๐ข๐จ๐ง๐š๐ฅ๐ข๐ญร  e ๐ƒ๐ข๐ฌ๐ญ๐ข๐ง๐ณ๐ข๐จ๐ง๐ž ai sensi del Diritto Internazionale Umanitario (DIU).

  • Il rischio di ๐„๐ฌ๐œ๐š๐ฅ๐š๐ญ๐ข๐จ๐ง ๐€๐ฅ๐ ๐จ๐ซ๐ข๐ญ๐ฆ๐ข๐œ๐š (risposte autonome e imprevedibili alle minacce).

๐‹๐š ๐’๐จ๐ฅ๐ฎ๐ณ๐ข๐จ๐ง๐ž ๐๐ซ๐จ๐ฉ๐จ๐ฌ๐ญ๐š: ๐†๐จ๐ฏ๐ž๐ซ๐ง๐š๐ง๐œ๐ž, ๐—๐€๐ˆ ๐ž ๐…๐จ๐ซ๐ฆ๐š๐ณ๐ข๐จ๐ง๐ž ๐„๐ญ๐ข๐œ๐š

Per colmare questo divario etico e di governance, proponiamo un approccio che pone la formazione dell’operatore al centro della mitigazione del rischio:

  1. ๐๐ซ๐ข๐จ๐ซ๐ข๐ญร  ๐š๐ฅ ๐ƒ๐ž๐ฌ๐ข๐ ๐ง ๐€๐ง๐ญ๐ซ๐จ๐ฉ๐จ๐œ๐ž๐ง๐ญ๐ซ๐ข๐œ๐จ: Mantenere una “๐’๐ฎ๐ฉ๐ž๐ซ๐ฏ๐ข๐ฌ๐ข๐จ๐ง๐ž ๐”๐ฆ๐š๐ง๐š ๐’๐ข๐ ๐ง๐ข๐Ÿ๐ข๐œ๐š๐ญ๐ข๐ฏ๐š” รจ indispensabile. L’IA deve agire come uno strumento che ๐š๐ฆ๐ฉ๐ฅ๐ข๐Ÿ๐ข๐œ๐š ๐ฅ’๐ž๐ญ๐ข๐œ๐š, non come uno che la sostituisce.

  2. ๐“๐ซ๐š๐ฌ๐ฉ๐š๐ซ๐ž๐ง๐ณ๐š ๐œ๐จ๐ง ๐ฅ๐š ๐—๐€๐ˆ: L’adozione dell’Intelligenza Artificiale Spiegabile (๐—๐€๐ˆ) รจ l’unico modo per garantire che le decisioni algoritmiche siano ๐ฏ๐ž๐ซ๐ข๐Ÿ๐ข๐œ๐š๐›๐ข๐ฅ๐ข, ๐ญ๐ซ๐š๐ฌ๐ฉ๐š๐ซ๐ž๐ง๐ญ๐ข ๐ž ๐ญ๐ซ๐š๐œ๐œ๐ข๐š๐›๐ข๐ฅ๐ข โ€” un requisito fondamentale per la responsabilitร  legale in caso di errori.

  3. ๐‘๐ข๐ฌ๐จ๐ฅ๐ฏ๐ž๐ซ๐ž ๐ฅ๐š “๐‘๐ž๐ฌ๐ฉ๐จ๐ง๐ฌ๐š๐›๐ข๐ฅ๐ข๐ญร  ๐ƒ๐ข๐ฌ๐ญ๐ซ๐ข๐›๐ฎ๐ข๐ญ๐š”: Sollecitiamo l’istituzione urgente di ๐ช๐ฎ๐š๐๐ซ๐ข ๐ง๐จ๐ซ๐ฆ๐š๐ญ๐ข๐ฏ๐ข ๐ข๐ง๐ญ๐ž๐ซ๐ง๐š๐ณ๐ข๐จ๐ง๐š๐ฅ๐ข (modellati sui trattati di controllo delle armi nucleari) che definiscano chiaramente la catena di responsabilitร  tra programmatore, comandante e sistema, prevenendo il temuto “๐ซ๐ž๐ฌ๐ฉ๐จ๐ง๐ฌ๐ข๐›๐ข๐ฅ๐ข๐ญ๐ฒ ๐ ๐š๐ฉ” (vuoto di responsabilitร ).


Atti della Conferenza su Difesa e Sicurezza, Vol. 1, No. 1, pp. 655-679, 4 Aprile 2025.

#AIinDefense #Governance #AIEthics #IHL #ExplainableAI #ResponsibleInnovation #NationalSecurity