Libro · 2019 · Stuart Jonathan Russell

Human Compatible

Il libro più importante sull'IA di quest'anno. --The Guardian Il libro entusiasmante del signor Russell va in profondità, pur brillando di secche ironie. --The Wall Street Journal Il libro più importante che abbia letto da molto tempo (Daniel Kahneman); Un must-read (Max Tegmark); Il libro che stavamo aspettando tutti (Sam Harris) Un ricercatore leader nell'intelligenza artificiale presenta un nuovo approccio all'IA che ci permetterà di coesistere con macchine sempre più intelligenti. Nell'immaginario popolare, l'intelligenza artificiale sovrumana è un'onda in avvicinamento che minaccia non solo i lavori e le relazioni umane, ma la civiltà stessa. Il conflitto tra umani e macchine è visto come inevitabile e il suo esito troppo prevedibile. In questo libro innovativo, il rinomato ricercatore di IA Stuart Russell sostiene che questo scenario può essere evitato, ma solo se ripensiamo l'IA dalle fondamenta. Russell inizia esplorando l'idea di intelligenza negli esseri umani e nelle macchine. Descrive i benefici a breve termine che possiamo aspettarci, dagli assistenti personali intelligenti a una ricerca scientifica notevolmente accelerata, e delinea i progressi dell'IA che devono ancora avvenire prima di raggiungere l'IA sovrumana. Espone anche i modi in cui gli esseri umani stanno già trovando il modo di abusare dell'IA, dalle armi autonome letali al sabotaggio virale. Se i progressi previsti si verificano e l'IA sovrumana emerge, avremo creato entità molto più potenti di noi stessi. Come possiamo assicurarci che non abbiano mai, mai, potere su di noi? Russell suggerisce che possiamo ricostruire l'IA su una nuova base, secondo la quale le macchine sono progettate per essere intrinsecamente incerte riguardo alle preferenze umane che devono soddisfare. Tali macchine sarebbero umili, altruistiche e impegnate a perseguire i nostri obiettivi, non i loro. Questa nuova base ci permetterebbe di creare macchine che sono dimostrabilmente deferenti e dimostrabilmente benefiche.