"Contro i pregiudizi in IA, cerchiamo talenti diversi"

Africa Periáñez (Madrid, 1980), è la fondatrice e CEO di benshi.ai, un'organizzazione no-profit di recente creazione con sede a Barcellona e finanziata al 100% dalla Bill and Melinda Gates Foundation. La potente istituzione ha contribuito con quasi nove milioni di dollari (circa 7,5 milioni di euro) per i prossimi due anni in modo che lei e il suo team possano svilupparsi una piattaforma di apprendimento automatico e previsione del comportamento che migliora le applicazioni sanitarie mobili utilizzate nei paesi con meno risorse. Ad esempio, applicazioni per ostetriche, telemedicina e gestione di malattie epidemiologiche, come AIDS, malaria e covid-19, tra le altre.Questa data scientist e imprenditrice ha trascorso gran parte della sua carriera professionale in Giappone, lavorando nel campo dei videogiochi. Ha fondato l'azienda lì. Dati di Yokozuna, dedicato alla previsione del comportamento dei giocatori con algoritmi di apprendimento automatico. È tornato in Spagna alla fine del 2019 per lavorare come direttore dell'analisi di Inditex, dove ha guidato la ricerca, l'applicazione e lo sviluppo della scienza dei dati in tutta l'organizzazione. Ma, sebbene fosse molto interessato al progetto, rimase per un breve periodo. “Ho ricevuto una chiamata con un'offerta difficile da rifiutare”, dice con un grande sorriso.

Come ci si sente ad essere chiamati dalla Bill and Melinda Gates Foundation con una proposta come questa?

È stata un'opportunità così grande che non ho dovuto pensarci. Questa fondazione ci ha firmato per introdurre miglioramenti nelle applicazioni sanitarie utilizzando l'intelligenza artificiale (AI). Tra le altre cose, lavoreremo per promuovere il rinforzo positivo e migliorare il comportamento degli utenti di queste applicazioni. La nostra missione è portare gli algoritmi di machine learning di personalizzazione più avanzati, utilizzati dalle applicazioni delle principali aziende tecnologiche, nell'assistenza sanitaria nei paesi con meno risorse. Per fare questo, abbiamo creato benshi.ai, un'organizzazione senza scopo di lucro finanziata al 100% dalla Bill & Melinda Gates Foundation e che opera come una sua filiale. La nostra sede è a Barcellona e abbiamo già un budget: circa nove milioni di dollari per i prossimi due anni [7,5 millones de euros]. Siamo molto felici e motivati.

Su cosa sta lavorando attualmente benshi.ai?

Abbiamo registrato la nostra fondazione e stiamo sviluppando una piattaforma di apprendimento automatico che avrà diversi prodotti, come sistemi di raccomandazione, previsione personalizzata del comportamento degli utenti delle app per la salute e sistema di sperimentazione.

"Una migliore conoscenza è fondamentale per prevenire la morte di oltre 800 donne e 14.000 bambini per complicazioni legate alla gravidanza e al parto"

Utilizzi già la piattaforma per qualcosa di specifico?

Sì, continuiamo a migliorare la piattaforma negli aspetti che hai citato – previsione, sperimentazione e raccomandazione – ma stiamo già lavorando con un'altra organizzazione senza scopo di lucro, chiamata Maternity Foundation, (anch'essa finanziata dall'organizzazione Gates), che produce e- app di apprendimento per ostetriche. Operano da molto tempo e sono presenti in quasi tutta l'Africa, in India e in molti paesi dell'Asia orientale. La loro app si chiama Safe Delivery ed è progettata per formare le ostetriche nell'assistenza al parto in questi paesi. Molte organizzazioni investono nelle ostetriche perché sono donne che aiutano altre donne. Sono in gran parte trascurati dalle istituzioni di questi paesi, dove ogni giorno muoiono 800 donne e 14.000 bambini per complicazioni legate alla gravidanza e al parto. Ecco perché migliorare le conoscenze e le risorse che possono utilizzare è fondamentale.

E quali miglioramenti intendi introdurre nel file applicazione Consegna sicura?

Innanzitutto, stiamo sviluppando modelli predittivi per aiutarci a determinare in che modo le ostetriche utilizzano l'app mobile. Ad esempio, quando effettueranno l'accesso successivo e quali moduli consulteranno. Per tutto questo utilizziamo algoritmi che combinano modellazione autoregressiva e deep learning come DeepAR. Una volta che sapremo di più su cosa faranno e su come useranno l'app, possiamo iniziare a creare incentivi basati sui loro dati comportamentali. Lo abbiamo fatto anche nei videogiochi per motivare i giocatori. Nelle applicazioni sanitarie, questa tecnologia può essere utilizzata anche per modificare il comportamento.

Quali incentivi possono essere dati a un'ostetrica di questi paesi?

Per studiare questo, utilizziamo uno strumento che abbiamo sviluppato chiamato XP Engine. Questo sistema ci consente di sperimentare per testare diversi approcci quando, ad esempio, decidere quale incentivo funzionerà meglio: finanziario, alimentare, materiale di lavoro... Questi "premi" possono incoraggiare le ostetriche di questi paesi a consultare maggiormente l'applicazione ogni volta che consigliamo lo specifico moduli di cui avranno bisogno e migliorare la loro formazione e pratica al momento del parto. Si tratta di inviare l'incentivo più appropriato a ciascuna ostetrica. Utilizziamo anche modelli di apprendimento per rinforzo per migliorare la tua formazione.

In che modo questi modelli aiutano?

I modelli di apprendimento per rinforzo sono agenti di intelligenza artificiale che apprendono automaticamente come ogni ostetrica reagisce ai diversi interventi che inviamo. In questo modo, possiamo ottimizzare ogni notifica che ricevi sul tuo cellulare con il contenuto appropriato e nel momento migliore in modo che tu possa assimilare le informazioni e applicarle. Ad esempio, è meglio inviarle la raccomandazione proprio quando consegna? O il giorno prima per non dimenticare certi documenti e averli più freschi? Consideriamo molti componenti. È necessario sapere qual è il momento migliore per effettuare queste spedizioni. Per questo ci rivolgiamo a specialisti del comportamento che ci danno consigli del tipo: “Fai attenzione perché se vuoi inviare una raccomandazione di notte in alcuni paesi africani è normale che le donne non le guardino in queste ore. “Ci sono molte cose che non possiamo vedere con i dati e che cerchiamo di integrare con la conoscenza di questi esperti.

In quali paesi lavori e in quali altri ambiti?

Attualmente stiamo lavorando in Etiopia e in India su progetti di ostetricia e stiamo già ricevendo dati da quasi tutti i paesi dell'Africa sub-sahariana. Abbiamo anche iniziato a lavorare per migliorare le applicazioni diagnostiche generali in altri paesi africani come Nigeria, Kenya e Ghana. E con applicazioni in campo farmaceutico per garantire il corretto utilizzo dei farmaci, promuovere il monitoraggio delle cure ed effettuare i test necessari a garantire il controllo di malattie come AIDS, malaria o covid-19. Studieremo quali incentivi possono essere dati a queste persone per cambiare le loro abitudini in modo che, ad esempio, i pazienti che non assumono i loro farmaci lo facciano o raccolgano i risultati delle analisi e dei test che hanno effettuato.

"Stiamo lavorando in Etiopia e in India su progetti con le ostetriche, e stiamo già ricevendo dati da quasi tutti i paesi dell'Africa sub-sahariana"

Avete collaborazioni con enti di ricerca?

Sì, collaboriamo con le università per trasformare i risultati della ricerca in sistemi di produzione sulla nostra piattaforma. Attualmente stiamo collaborando con lo Statistical Reinforcement Learning Group dell'Università di Harvard. Anche con l'Università della California nell'area dello sviluppo di sondaggi personalizzati delle ostetriche per migliorare l'analisi dell'impatto che questi consigli e incentivi personalizzati hanno su di loro, oltre all'analisi dei dati generati nelle app.

Gli algoritmi di intelligenza artificiale hanno una pessima reputazione per i pregiudizi di ogni tipo che introducono. Come si può alleviare questo problema?

Uno dei maggiori problemi con il pregiudizio dell'IA è che la maggior parte dei data scientist sono uomini bianchi eterosessuali provenienti da paesi ricchi. Alla fine, se stessi non sono consapevoli dei pregiudizi che si hanno. Penso che per migliorarlo sia importante avere squadre diverse. Questo è qualcosa su cui stiamo lavorando molto duramente. Per questo, cerchiamo di attrarre talenti dall'Africa e altrove. Vogliamo anche aprire un ufficio in Zambia e Nigeria e il nostro staff è composto da persone di diversi continenti, religioni, generi – siamo più donne che uomini – e orientamenti sessuali. Inoltre, lavoriamo a stretto contatto con scienziati comportamentali che si trovano nei paesi in cui operiamo perché, come ho detto prima, i dati da soli spesso non sono sufficienti.

Questo articolo è stato preparato dall'agenzia SINC. Leggi l'originale qui.