Anche la medicina deve fare la sua parte per regolamentare l'AI
Una analisi pubblicata su “BMJ Global Health” mette in evidenza i rischi associati all'uso dell'intelligenza artificiale (AI) nel settore sanitario, richiedendo un intervento della comunità medica per sensibilizzare le istituzioni.Con il crescente dibattito sull'AI, diventa cruciale affrontare le preoccupazioni relative alla sua applicazione indiscriminata e non regolamentata.
Il potenziale dell'AI in medicina è enorme: strumenti per l'elaborazione del linguaggio naturale, supporto alle decisioni cliniche, analisi di big data e robotica, tutte applicazioni che potrebbero rivoluzionare diagnosi e cure.
Tuttavia, ci sono anche seri rischi.
Gli autori sottolineano che un errore medico causato da un'AI può avere conseguenze gravi, e l'uso non inclusivo di questi strumenti potrebbe aggravare le disuguaglianze sociali. Inoltre, l'AI può perpetuare bias esistenti, come dimostrato dal caso di un saturimetro (progettato dall’AI) che non forniva risultati accurati per i pazienti di colore.
L’articolo pubblicato su BMJ ha evidenziato tre principali pericoli derivanti dall'uso scorretto dell'AI.
- Manipolazione dei dati: L'AI può analizzare enormi quantità di dati personali, contribuendo alla polarizzazione delle opinioni e potenzialmente interferendo con processi democratici, come già evidenziato nelle elezioni politiche USA.
- Utilizzi militari: Lo sviluppo di armi autonome rappresenta una grave minaccia. L'uso dell'AI in ambito militare può disumanizzare i conflitti e sollevare interrogativi etici, come la responsabilità per errori fatali.
- Impatto sul lavoro: L'automazione dei compiti umani potrebbe portare alla perdita di milioni di posti di lavoro.
Per affrontare questi rischi, gli autori esortano a promuovere normative globali che garantiscano lo sviluppo responsabile dell'AI. Anche se esistono iniziative come quelle dell'Unione Europea e dell'ONU che mirano a stabilire linee guida, queste mancano di forza vincolante. È quindi fondamentale un maggiore coinvolgimento della società civile e della comunità medica.
Poiché quest’ultima sarà tra i maggiori beneficiari delle nuove tecnologie, deve svolgere un ruolo attivo nella promozione di una governance etica e sicura dell'AI, similmente a quanto fatto nel passato per questioni come la guerra nucleare.
Threats by artificial intelligence to human health and human existence