Ludi dipartimentali

La formula per valutare i “dipartimenti migliori”: come il metodo Stamina

“Ho parlato più volte del mio bisnonno Gustavo, un ciarlatano e truffatore venditore di numeri del lotto ai malcapitati, tramite una serie di calcoli complicatissimi sui “numeri ritardatari” che solo lui era in grado di capire. Il nonno aveva successo perché nessuno si metteva a contestare le sue “superformule”, non essendo in grado di capirle. Solo il bambino ha il coraggio di gridare “il re è nudo”, perché tutti gli altri sono intimoriti da un calcolone come sopra.” Di quale calcolone sta parlando Marco Bella? Della formula contenuta in un atto a firma della Ministra Fedeli con cui sono stati selezionati i dipartimenti di eccellenza. Ma un qualsiasi formulone, per quanto elaborato, applicato ai dati VQR non dimostra nulla e produce altri dati privi di fondamento. È inutile accanirsi a radiare i medici antivax e a lanciare campagne d’informazione, se poi si diffondono pratiche di discutibile valore scientifico all’interno delle università per finanziarne lo sviluppo.

 

Alla fine dello scorso anno, il Parlamento ha approvato un finanziamento addizionale per i cosiddetti “dipartimenti universitari d’eccellenza”, i presunti “180 migliori dipartimenti universitari italiani”, scelti da una lista di 350 determinata in modo automatico. Il mondo universitario si è chiesto come sarebbe avvenuta questa prima selezione. Ecco la risposta: secondo questa “semplice formuletta”,

pubblicata venerdì sul sito del ministero.

Il provvedimento porta la firma della ministra Valeria Fedeli. Risponderà personalmente durante una conferenza stampa a delle semplici domandine tecniche riguardo alla Madre di Tutti gli Algoritmi?

Qualcuno potrà osservare che “il parlamento ha votato e serviva una formula”. In realtà, il dubbio che questa assemblea parlamentare abbia gli strumenti culturali per approvare esclusivamente provvedimenti legislativi applicabili è più che legittimo. Quattro anni fa, tra le critiche di tutta la comunità scientifica, le due Camere hanno destinato 3 milioni di euro per la sperimentazione del cosiddetto “metodo Stamina”, l’ideona di un professore di lettere ora ospite delle patrie galere con l’accusa di aver continuato a proporre questa roba all’estero a pazienti disperati. Quello che gli scienziati allora tentarono invano di spiegare è che non si può “sperimentare” iniettando intrugli non definiti ai bambini malati e sbattere i genitori in televisione per dimostrare chissà quale ipotetico miglioramento.

Qui non stiamo parlando del singolo parlamentare che organizza di testa sua una conferenza antivax o un convegno sull’omeopatia, ma di un provvedimento che sulla base della superformula di cui sopra distribuirà 271 milioni di euro l’anno per almeno 5 anni e solo per alcuni.

Qualcuno potrebbe obiettare: si dovrebbe contestare con argomenti nel merito. La risposta è che prima ancora di “misurare” qualcosa, bisogna chiedersi che cosa si sta misurando. Ho parlato più volte del mio bisnonno Gustavo, un ciarlatano e truffatore venditore di numeri del lotto ai malcapitati, tramite una serie di calcoli complicatissimi sui “numeri ritardatari” che solo lui era in grado di capire. Il nonno aveva successo perché nessuno si metteva a contestare le sue “superformule”, non essendo in grado di capirle. Solo il bambino ha il coraggio di gridare “il re è nudo”, perché tutti gli altri sono intimoriti da un calcolone come sopra. E il nonno lo sapeva benissimo: il suo “vestito invisibile” erano le superformule. Il problema non era che gli algoritmi del nonno fossero errati, ma lo era l’assunzione alla base di tutto. Ogni estrazione è indipendente dalle altre, per cui quei calcoli, per quanto complessi e raffinati, non potevano portare a nulla di utile.

La formula di cui sopra poggia sui voti della VQR (Valutazione Qualità della Ricerca) il quali sono basati sull’assunzione che un singolo articolo di un singolo autore (indipendentemente dal numero di autori, ma soprattutto dai contributi individuali) possa essere giudicato in modo automatico tramite un “quadrato magico”, il quale determina il “voto” sulla base di impact factor e numero di citazioni.

Questo modo di valutare la ricerca è in contrasto con qualsiasi metodologia applicata dalle agenzie di valutazione dei paesi avanzati. Ecco come esempio alcune linee guida condivise in ambito internazionale.

Uno studio basato su dati traballanti sarà inevitabilmente come un castello di carte costruito sopra una lavatrice in funzione. È lo stesso problema di quello antivax ritirato due volte di cui abbiamo appena parlato, basato su un sondaggio anonimo via internet sottoposto alle mamme no-vax per verificare che i loro figli fossero “più sani”.

Qualsiasi formulone, per quanto elaborato, applicato a questi dati non dimostra nulla e produce altri dati privi di fondamento. Chi ha progettato lo studio era partito da presupposti ideologici. Premiare i 180 dipartimenti universitari “migliori” non è poi un modo di ragionare tanto diverso.  Con gli stessi soldi si sarebbero potuti invece dare a tutti i ricercatori gli strumenti per lavorare e magari un po’ più di soldi a chi è bravo davvero, indipendentemente se avesse la fortuna di essere in un dipartimento di presunta eccellenza o meno.

È inutile accanirsi a radiare i medici antivax e a lanciare campagne d’informazione, se poi si diffondono pratiche di discutibile valore scientifico all’interno delle università per finanziarne lo sviluppo. Come si comporteranno i dipartimenti “perdenti”, ovvero quelli “non eccellenti”? Continueranno a produrre scienza e didattica, oppure metteranno tutto questo in secondo piano per dedicarsi a migliorare il proprio “indicatore iessepiddì”, così vitale per coltivare future speranze di riscatto? Tutto ciò sarà un bene per la ricerca e ‘istruzione universitaria nel nostro Paese?

Permettetemi di dubitare che l’ideazione della “superformula” parta dalla ministra Fedeli. Ovviamente, in tutto questo c’è la mano di alcuni colleghi, tutti magari bravissimi nel loro campo. Non è che gli scienziati si siano sempre comportati in modo razionale. Galileo  vendeva gli oroscopi (e anche il suo collega Keplero); Newton ebbe un grave esaurimento nervoso. I vapori di mercurio che si era respirato durante i suoi esperimenti alchemici non hanno aiutato.

Alcuni rettori del SUD si sono già pronunciati, producendosi in un arduo esercizio di fede ministeriale e anvuriana nel meccanismo che assesta un colpo formidabile alle speranze di riscatto delle università meridionali, i cui interessi loro dovrebbero rappresentare. Per loro, evidentemente, la Questione meridionale vive ormai solo nelle domande da preparare per esame di Maturità.

Ma è possibile che qualcuno scopra di avere la schiena dritta e, dopo aver preso atto della fallacia del superlogoritmo e dei suoi esiti concreti, alzi la mano ed esclami con voce ferma e stentorea all’indirizzo di Viale Trastevere: “ma che vapori avete inalato”??

Post apparso originariamente su Il Fatto Quotidiano

Send to Kindle
Tag: , , , , , ,

23 Comments

  1. alessandrostll says:

    Qualcuno ha per caso un file excel disponibile in cui c’è il valore di ISPD per tutti i dipartimenti e non solo per i 350 eccellenti?

    grazie

    • Alberto Baccini says:

      Mi scusi alessandrostll, ma lei pensa di essere in un paese normale? In cui MIUR e ANVUR rendono disponibili i dati perché possono essere controllati e replicati? Vale il principio di autorità: ciò che dice MIUR/ANVUR è vero, giusto, incontrovertibile. Perfettibile certo, la prossima volta però perché il meglio è nemico del bene.
      E aggiungo che siamo in un paese in cui l’intero sistema universitario, che dovrebbe avere a fondamento proprio lo scetticismo, il controllo e la replicabilità, accetta in silenzio di essere governato in questo modo.
      Suggerisco di ricorrere all’accesso civico e poi diffondere i risultati. http://www.funzionepubblica.gov.it/articolo/ministro/12-02-2016/trasparenza

  2. Leggo sia il tuoi interventi qua che sul FQ, grazie.
    Non credi che l’astrusità di tuo bisnonno Gustavo non sia diversa dello scientismo imperante. Siamo alla “medica” inquisizione. Medici radiati perchè dubbiosi. DNA almeno imprecisi usati come indiscutibile prova di colpevolezza, se quache medico cerusico del 700 si fosse opposto all’uso dei salassi e delle purghe sarebbe stato radiato dalla confraternita?! Il premio nobel inglese per meccanica quantistica diceva che lo scienziato deve convivere col dubbio, ma i camici bianchi anche i nostri colleghi nelle università di dubbi ne hanno? Ho seguito il caso della infermiera di Treviso. In 10 anni non avrebbe somministrato 21000 vaccinazioni. E i pediatri che avevano in cura i bambini non se ne sono accorti (se vaccino non somministrato più probabilità di malattia o no?)? Non si è scatenata una pandemia in Friuli dove operava l’infermiera? E nessuno dice nulla sulle responsabilità organizzative, l’infermiera aveva un capo con indennità di responsabilità suppongo, di costui nessuna parola?
    Boh forse non capisco. Non so se avrai tempo per spiegarmi. Io resto perplesso. … ma forse mi sbaglio

    • Marco Bella says:

      Caro Giufe,
      Grazie dei commenti. Evviva la democrazia e la libertà di opinione all’interno della comunità scientifica, ma attenzione a cosa si comunica con il pubblico. Citando Burioni, la libertà non è potere strillare in un luogo affollato “c’è una bomba” per divertirsi a vedere la folla che calpesta i bambini. Alla libertà, mi spiace, ci sono dei limiti. Anche le se motivazioni della sentenza non sono ancora note, mi sentirei di escludere che “Medici [al momento solo uno] siano stati radiati perché dubbiosi”.
      Ecco un esempio di cosa scriveva un “medico dubbioso” per la giornata mondiale dell’autismo:

      ———–
      Nell’autunno scorso è stato tradotto in italiano un libro […] intitolato “Autismo. Oltre la disperazione” dove l’Autore, certamente serio e non coinvolto in giochi di potere o di interessi personali, dimostra che una semplice ed economica terapia antidotante basata sulla somministrazione di elevate diluizioni dei comuni vaccini pediatrici preventivamente e adeguatamente omeopaticizzati, ha guarito dall’autismo più di 300 bambini.
      ———–

      http://www.ilfattoquotidiano.it/2013/04/03/a-chi-interessa-il-bambino-autistico/550118/

      Stiamo parlando di dare credito alla GUARIGIONE dell’autismo con i vaccini omeopatici.
      In questo caso, sono assolutamente d’accordo con Renzi e Lorenzin che hanno ritenuto giusta la radiazione. Come riconosco al governo Berlusconi il merito di aver introdotto la legge antifumo. A un certo punto serve la linea dura. Se non vaccini i tuoi figli perché credi che dentro ci sia chissà cosa, dando retta a ciarlatani che pubblicizzano queste cose sul web, ne paghi le conseguenze. Se la linea del governo riguardo ai vaccini fosse stata la stessa tenuta nei confronti dell’università, non saremmo a questo punto. Bene che sui vaccini si ascolti la scienza, ma lo stesso atteggiamento dovrebbe essere tenuto verso le “superformule magiche”.

    • Alberto Baccini says:

      Scusa Marco ma questo tuo commento a mio parere confonde due piani piani diversi che devono essere tenuti separati nella discussione.

      La radiazione dall’albo dei medici è atto di autogoverno dell’ordine cui è obbligatorio iscriversi per svolgere la professione. Un “tribunale” dei pari (cioè un collgeio di disciplina dell’ordine) ha ravvisato un comportamento deontologicamente scorretto ed ha deciso per la radiazione.
      Quindi dovresti dirti d’accordo con la decisione dell’ordine, e affermare che a tuo parere è “giusta” perché rispetta le regole che l’ordine si è dato.
      Il richiamo al fatto che come scrivi, “Renzi e Lorenzin …hanno ritenuto giusta la radiazione” (e il tuo accordo con loro) non c’entra proprio nulla. Renzi e Lorenzin nella vicedna hanno lo status, diciamo così, dei tifosi, per quanto autorevoli e dotati di potere. Mi auguro, che questo potere ed il loro tifo, non abbiano interferito con la decisione dell’ordine.

      Nel caso della formula i termini sono del tutto rovesciati. Qui abbiamo una ministra che su suggerimento di una agenzia governativa decide di applicare una formula. Che non è discussa e validata dai pari (i professori valutati), come avverrebbe se la discussione fosse di tipo scientifico. Quella formula è imposta con la spada (come credo direbbe Maria Chiara Pievatolo) dal governo, ma è mascherata da “scienza” (mathematical intimidation driven by the data), e sviluppata da “pari” che hanno però assunto una posizione di “potere” (e che quindi non sono più pari). Se è chi ha il potere che decide cosa è scienza (la formula giusta) non conta più da che parte sta la ragione scientifica. Conta solo chi ha il potere.

      Come scrivi giustamente tu l’unica possibilità che ci resta è mostrare che il re è nudo, cioè che VQR e regole premiali non stanno in piedi. (Ma è difficile farlo senza avere a disposizione i dati, gelosamente custoditi da ANVUR e MIUR, come facevo notare in un commento precedente).

    • Marco Bella says:

      Caro Alberto,
      Grazie della precisazione. Al di là dei provvedimenti specifici ritengo che il governo abbia recepito correttamente le posizioni della comunità scientifica riguardo ai vaccini e all’importanza delle vaccinazioni. Gli organi di autogoverno dei medici sanzionano giustamente gli iscritti i quali sostengono posizioni antiscientifiche. Bene così.
      Mi piacerebbe che la stessa linea di condotta razionale fosse tenuta nei confronti del mondo dell’università e ricerca in generale. In questo caso, la mia impressione è che si dia credito a “cure miracolose” senza che queste abbiano una qualsiasi evidenza di essere utili. Il problema è ancora prima della superformula: è nel credere che finanziando 180 dipartimenti eccellenti e mandare allo sfacelo tutti gli altri possa essere una cura efficace. Inoltre, come giustamente osservi, non è possibile ottenere i dati e procedere a verifiche indipendenti. Aggiungo io che la solidità dei dati, falsati da una legittima rivendicazione sindacale, è molto discutibile. Gli organi di autogoverno dell’università non sembrano aver recepito l’impatto della superformula sui dipartimenti universitari.
      In conclusione, sui vaccini la politica segue le buone pratiche scientifiche, sulla valutazione della ricerca sembra invece dare credito a metodologie “Stamina-like”. Affidarsi agli stregoni è sempre una pessima idea perché causa danni e non porta ad alcun beneficio, se non allo stregone che vende la cura miracolosa.

    • Alberto Baccini says:

      Ed infatti gli stregoni prosperano dalle parti di anvur. Con parcelle tra i 210k e i 170k € annui. O se preferisci 100k per ricetta (oops volevo dire delibera)

    • Giuseppe De Nicolao says:

      Baccini allude a questo:
      ________________
      se si esamina il bilancio milionario di ANVUR, si scopre che è costata 100.000 Euro a delibera, pur includendo nel conto le 92 delibere non pubblicate (su un totale di 95). Oppure 215.00 Euro ad articolo o anche 359.00 a citazione. E poi ci sono quasi un milione e seicentomila Euro per pagare “esperti di elevata professionalità”.
      http://www.roars.it/online/lo-start-up-di-anvur-e-costato-come-balotelli-lui-100-000-euro-a-passaggio-loro-100-000-a-delibera/

    • roberto.de.pietri says:

      Certo che per 200k Euro l’anno avrebbero almeno potuto consultare wikipedia (https://it.wikipedia.org/wiki/Varianza). Avrebbero scoperto che su campioni piccoli è necessario applicare la “correzione di Bessel” che avrebbe fornito una misura priva di distorsione della varianza, cioè il suo valore atteso è proprio la varianza. Però è anche vero che potrebbero averla applicata, ma noi non possiamo saperlo senza avere i dati grezzi.

  3. Che le cose siano così, non vuol dire che debbano andare così. Solo che, quando si tratta di rimboccarsi le maniche e incominciare a cambiare, vi è un prezzo da pagare, ed è allora che la stragrande maggioranza preferisce lamentarsi piuttosto che fare. (Giovanni Falcone)

  4. marco Bella@ ps credo che la propensione italica all’ortodossia di stampo cattolico in un momento di crisi della Chiesa si stia orientando verso altre Chiese più “laiche”, quella medica, quella economica etc. La celebrazione continua di camici bianchi che sparano banalità sul corrierino meneghino è all’ordine del giorno, le banalità fotocopia del Ale-vazzi sull’economia lo stesso. Capacità critica, dubbio= Zero

  5. Marco Bella says:

    Volevo sottolineare un aspetto che non è sviluppato nel post.
    Ovviamente non mi aspetto che la Ministra Valeria Fedeli vada in parlamento a rispondere riguardo alla superformula, e sinceramente gli attacchi personali sui suoi titoli di studio non mi entusiasmano affatto.
    La Ministra però, dovrebbe avere delle competenze riguardo alle rivendicazioni sindacali. Lasciando da parte le battute goliardiche sulla superformula, è chiaro che conteggiando come “zero” coloro i quali hanno partecipato alla protesta #stopVQR i dipartimenti ne sono stati danneggiati in termini di ISPD. Le risorse per i “dipartimenti eccellenti” saranno con ogni probabilità tolte a tutti gli altri, mi spiace dirlo, ma chi ritiene che ci saranno “risorse aggiuntive” è al livello di chi comprava i numeri del lotto dal mio bisnonno. Ora immaginiamo cosa succederebbe se in una fabbrica il datore di lavoro comunicasse che sarà distribuito un “premio speciale” solo a coloro i quali non hanno partecipato a uno sciopero, magari togliendo un po’ di soldi a chi invece ha dimostrato per vedere riconosciuti di diritti di tutti. Giustamente, i sindacati inorridirebbero. Qui non si tratta di capire la superformula, ma di afferrare un concetto base nel mondo sindacale: non puoi premiare chi non partecipa a uno sciopero a scapito di tutti gli altri.
    Come minimo, mi aspetterei che i rettori che giustamente non hanno conferito i prodotti in modo forzoso, perché hanno rispettato il diritto di sciopero, facessero sentire la loro voce ed esigessero che gli ISPD siano ricalcolati senza tenere conto di colo i quali hanno aderito a #stopqVQR.

  6. @Bella Certo se mi citi situazioni estreme….io dovrei citare i due ragazzini di Verona morti dopo il vaccino..
    LO stesso Gava su FQ argomenta in modo saggio. Lo stesso Garattini evoca il tema della sorveglianza sanitaria. Non hai tempo capisco. Ma rispetto ai paradigmi scientifici a cui almeno noi (non i camici bianchi pare) dovremmo fare riferimento, ti chiedevo dei Pediatri, della pandemia, del dirigente.. Aggiungo che io mi vaccino ogni anno per l’influenza..e pare che mi ammali meno da quando lo faccio, perchè non costringere tutti a vaccinarsi?
    Boh viva roars e viva la pluralità di pensiero che solo unipublbica sa garantire, almeno meglio degli altri.

  7. @Bella Se uno è anti-scientifico: Gava con un curriculum ottimo mi pare deve essere radiato, non deve più dare la comunione e non deve più confessare… http://www.ilfattoquotidiano.it/2017/04/21/vaccini-ordine-dei-medici-di-treviso-radia-il-dottor-roberto-gava-legali-condanna-con-arbitrio-impugniamo-la-sanzione/3535858/
    siamo ritornati al medioevo ???
    Qualcuno su roars può gentilmente fare a pezzi la mia posizione, si dico “fare a pezzi”!! Solo se confutabile o discutibile la mia versione può fare crescere la mia conoscenza… Ps scusa Bella forse ti faccio perdere tempo, ma sai io sono stato allevato a ricerca scienza ed epistemologia. Ai miei tempi si studiava storia della medicina e si imparava il valore della storicizzazione della scienza…sono sorpassato forse..

    • esmargia says:

      Le ragioni a favore della radiazione le trovi esposte e discusse per esempio nei blog di Salvo Di Grazia, Medbunker e quello su Le Scienze. Mi pare opportuno fare riferimento a quello piuttosto che iniziare una discussione sostanzialmente off-topic.

    • @esmargia Grazie ho letto…non ne vengo fuori. Non sono queste le mie obiezioni.. ti ringrazio comunque e davvero della risposta..
      IL dibattito è sempre lo stesso, gli ortodossi che si riempiono la bocca di scienza e gli altri considerati stegoni..Ma a sostegno della loro posizione gli ortodossi citano casi estremi. Come dire che per giustificare l’espulsione degli islamici si citino la malefatte di daesh. Io chiedo.. ma non otterrò (es. sul caso dei pediatri che non scoprono nulla anche se i bimbi non son stati vaccinati etc) risposte di merito. E’ come se ai tempi di Galilei chiedessimo a Cardinali della chiesa di valutare la correttezza della scomunica papale..Questi che si riempiono la bocca col termine scienza spesso non sanno che cos’è..essa si alimenta nel dubbio. Lo dico con massimo rispetto delle posizioni di tutti.

  8. Francesco1 says:

    Vorrei sapere una cosa: Roars ha elaborato una controproposta dettagliata (cioè quasi pronta a divenire legge dello Stato) di valutazione/riorganizzazione del sistema Università/Ricerca ?

    • Idee sono qui : https://www.roars.it/online/idee-e-prospettive/
      OVVIAMENTE non sono dettagliate da “divenire legge dello Stato”

    • Francesco1 says:

      Devo ammettere che: ‘m è il numero dei lavori migliori’ è geniale.

    • Francesco1 says:

      Anche la proporzionalità inversa con ‘il miglior indice presente in rete, per esempio l’H index’ non è male.

    • Con le palle che continua a raccontare il Bomba, con l’ennesimo attacco alle regole (che vengono disattese quando non fan comodo): vedasi Franceschini,
      vedasì cattedre Natta,
      solo la vittoria di 5* può forse salvare unipubblica. Vedrei De Nicolao, Sylos, Casagli in ruoli tecnici. De Nicolao, presidente Anvur (per distruggerlo o cambiarlo totalmente), Casagli Ministro o sottosegratario alla PA, Sylos sottosegretario alla ricerca sarebbe un sogno…
      Bersani e Baffino che faranno? evviva roars

    • Le parole di giufe pongono la questione nei termini esatti, quelli cui mi è già capitato di accennare in più di un mio commento postato in questo sito:
      “solo la vittoria di 5* PUO’ FORSE salvare unipubblica”.
      Ho trasferito al maiuscolo le due parole decisive: può forse. Si tratta di una possibilità, di una speranza. Una speranza nient’affatto infondata, ma pur sempre una speranza, non una certezza.
      In compenso, il voto contribuente alla vittoria di QUALUNQUE altra forza politica qui e oggi esistente (impossibile non diffidare radicalmente anche di quelli che il pupazzo chiamerebbe i cespugli e cespuglietti della sinistra – composti o non composti da fuoriusciti dal pd che siano – i quali in ultima analisi aspirano tutti, qualcuno più implicitamente-oscuramente qualcun altro più consapevolmente-programmaticamente, a rifluire a fianco del-sotto il pdpupazzo) contribuisce CON CERTEZZA ASSOLUTA alla perpetuazione-acutizzazione della già inoltratissima, spaventosa deriva del sistema dell’istruzione e dell’università.
      Il concetto si direbbe di agevole coglibilità. Ciononostante, ci sono mille motivi di credere che la maggioranza (forse la netta maggioranza) degli accademici non ce la farà a coglierlo e “applicarlo”

  9. @ciro Grazie. Quello che io temo da vecchio liberal e cultore del dubbio scientifico (e quindi del pluralismo intellettuale) sono posizioni scientiste come quella dello stesso Bella. Evocano la “scienza” con la stessa enfasi religiosa dei tempi dell’inquisizione. Non si rendono conto che una cosa è il mezzo e un’altra è il fine. La testimonianza di questo ricercatore: http://www.ilfattoquotidiano.it/2017/05/26/decreto-vaccini-non-permettero-che-sforacchino-il-braccio-di-mia-figlia/3605983/ è emblematica. Ottimo il lavoro di Roars e del FQ. Ho letto per anni corriere, repubblica, sole24 (che leggo ancora), ma dicono tutti le stesse cose. Un po’ di controinformazione la vedo in FQ, debbo ammettere perfino sul Giornale (non avrei mai immaginato di arrivare a tale affermanzione). La posizione sui vaccini è la stessa che roars combatte quando attacca la ricerca mainstream. Io ho vaccinato mia figlia, faccio il vaccino antiinfluenzale da anni quindi non sono uno sfegatato. Ma amo il pluralismo, il pensiero divergente e quindi (almeno dovrebbe essere così) l’unipubblica.

Leave a Reply

Sostieni ROARS

Sostieni ROARS