Oggi esploriamo le grandi minacce che i modelli di machine learning devono essere preparati ad affrontare. Seguimi alla scoperta degli Adversarial Attacks. Abbiamo definito cosa siano gli adversarial attacks, in un precedente post. Ora che ci siamo rinfrescati la memoria, possiamo procedere. Facciamo allora un rapidissimo riassunto delle tre categorie in cui possiamo raggruppare i […]

Un Adversarial Attack è un attacco compiuto per mezzo di adversarial examples ai danni di un modello di machine learning, avente l’obiettivo d’ingannarlo affinché l’aggressore ottenga un vantaggio. Gli adversarial attacks costiuiscono una seria minaccia alla creazione di modelli sicuri. Sono pertanto il tallone d’Achille dell’AI Safety. Devi sapere che a gennaio abbiamo iniziato un […]

Con l’espressione Adversarial AI facciamo riferimento a quell’insieme di tecniche che si pongono l’obiettivo di alterare il comportamento di un modello di machine learning e favorire in qualche modo l’aggressore. Ho aspettato troppo per questo post. Mea culpa. Basta indugi. È finalmente arrivato il momento di analizzare una temibile tecnica: prepararti a esplorare le strategie […]