...

Come scrivere un articolo scientifico

by user

on
Category: Documents
7

views

Report

Comments

Transcript

Come scrivere un articolo scientifico
Corso di Laurea Specialistica in Scienze Infermieristiche ed Ostetriche
Come scrivere
un articolo scientifico
Giancarlo Cicolini
[email protected]
Elisabetta Palma
[email protected]
“La ricerca della verità è la più
nobile occupazione dell’uomo.
La sua pubblicazione è un
dovere”
Madame de Staël (1766-1817)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Prima di iniziare ...
1.
2.
3.
4.
Perché scrivere un articolo?
Che tipo di articolo?
Come scriverlo?
Dove pubblicarlo?
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
1 - Why write a paper?
Diverse ragioni ...
Perché dobbiamo comunicare qualcosa di importante
Per modificare la pratica (non solo studi “positivi”…)
Per promuovere la riflessione o il dibattito
Per insegnare
Per permettere l’analisi del nostro lavoro
Per fare carriera ...
Per soldi …
Ecc …
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
1. Perché scrivere?
Palma Elisabetta
Publish or Perish
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Qualcosa di importante da comunicare
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La prima domanda ...
La ricerca è abbastanza interessante
da scegliere di scriverci un articolo?
Questa domanda andrebbe fatta all’inizio, prima
di spendere tempo ed energie a scrivere
qualcosa che non sarà accettato per la
pubblicazione …
IPOTESI DI WESTMHEIR
Un paio di mesi in laboratorio spesso fanno
risparmiare un paio d'ore in biblioteca.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Un buon articolo è il risultato di una
buona ricerca !
Scientificamente rilevante (il che non vuol
automaticamente dire clinicamente rilevante)
es: aumento delle settimane di sopravvivenza
Approvato dal comitato etico
Ben pianificato
es:campione adeguato e numericamente sufficiente?
Ben disegnato
es: la scelta degli end points
Ben condotto e con una buona analisi
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Qualità dei contenuti
Nessun virtuosismo stilistico può “salvare”
una ricerca mal disegnata o mal condotta
Non importa quanto sia ben scritto, un
articolo che riflette un metodo scarso è
inaccettabile
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Valutare i contenuti
-
Prima di preparare il manoscritto, andrebbe
valutata:
La qualità della ricerca
L’importanza della ricerca
L’assenza di errori
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La checklist per valutare la qualità dei
contenuti
Il contenuto della ricerca è significativo?
Il lavoro è originale e importante?
Gli strumenti hanno dimostrato di soddisfare i
criteri di affidabilità e validità?
Le misurazioni degli outcomes sono
chiaramente correlate alle variabili di studio?
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La checklist per valutare la qualità dei
contenuti (II)
Il disegno della ricerca testa in modo completo e
disambiguo l’ipotesi?
I partecipanti allo studio sono rappresentativi
della popolazione (possibilità di fare inferenze)?
La ricerca rispetta gli standard etici nel
trattamento dei soggetti di studio?
Lo stato della ricerca è sufficientemente
avanzato da permettere la pubblicazione di dati
significativi?
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
2. Che tipo di articolo?
Palma Elisabetta
Quale articolo…?
Reviews
Letters to the editors
Clinical cases
Original articles
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Rewiews
Includono meta-analisi e sono valutazioni
critiche di materiale già pubblicato
La revisione della letteratura dovrebbe essere
completa, critica e non influenzata dall’opinione
dell’Autore
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Tipologie di review
Narrative review (annotations)
Generalmente la parte più letta delle riviste
scientifiche
Sviluppano o riassumono la letteratura recente su un
argomento di interesse
Systematic review
Compilazione rigorosa delle evidenze in letteratura
che include e analizza criticamente tutti gli studi
primari
Se utilizza i protocolli della Cochrane Collaboration si
parla di Cochrane Review
www. cochrane.org
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Obiettivi della rewiew
Definire e chiarire un problema specifico
Riassumere precedenti studi per informare il
lettore sullo stato attuale della ricerca
Identificare le relazioni, le contraddizioni, i gap,
lo’inconsistenza della letteratura
Suggerire un ulteriore step nella soluzione del
problema
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Letters to the Editors
Sono focalizzate su un articolo
precedentemente pubblicato su quella rivista
… per criticare, supportare, correggere, dare ulteriori
informazioni o spiegazioni circa i risultati presentati
… per portare un messaggio a sfondo politico o
psicosociale correlato all’argomento trattato
Sono brevi (500 parole max.) e riportano
l’opinione originale dell’Autore/i (max. 4-6) su
quell’argomento
Suggerimenti su: www.plainenglish.co.uk
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Clinical cases/ Case reports
Sono la forma più antica e basilare di
comunicazione in medicina
Sono focalizzati sulla descrizione di casi clinici di
interesse per la diagnosi, il trattamento, ecc.
Andrebbero apposti commenti originali sui casi
presentati, ricordando che stiamo parlando di
persone e non casi.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Original Articles
Focalizzati sul risultato di un
programma originale di
ricerca
Un programma originale di
ricerca può considerarsi
completo quando i risultati
sono pubblicati in una rivista
scientifica
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
3. Come scrivere?
Palma Elisabetta
Cosa vuole un Editor?
Rilevanza
Originalità
Stile di scrittura chiaro
Invitante per la lettura
Verità …
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Cosa vuole un reviewer o un lettore?
Be Published or Not,
Reviewers decide.
Be Cited or Not,
Readers decide.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
The Vancouver Group
Nel 1978 un piccolo gruppo di editori fondò il
Vancouver Group per stabilire delle linee guida
sul format di articoli inviati alle loro riviste
Il Vancouver Group si è ampliato
nell’International Committee of Medical Journal
Editor (ICMJE) http://www.icmje.org
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Uniform Requirements
L’ICMJE ha definito dei requisiti di uniformità per
gli articoli, fornendo raccomandazioni specifiche
di pubblicazione e stile
Lo scopo è di aiutare gli autori e gli editori nel
preparare articoli su studi biomedici che siano
accurati, chiari e facilmente accessibili
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Principi etici legati
al processo di valutazione
e pubblicazione dell’articolo
Uniform
Requirements
Aspetti tecnici della
preparazione e invio
dell’articolo
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Principi etici legati al processo di
valutazione e pubblicazione dell’articolo
Considerazioni
etiche
Cicolini Giancarlo Palma Elisabetta
Legate all’autore
Legate all’Editor
Peer Review
Conflitto di interesse
Privacy e
confidenzialità
Pubblicazione
G. d’Annunzio University
Principi etici legati al processo di
valutazione e pubblicazione dell’articolo
Considerazioni etiche legate
all’autore
Sostanziale contributo alla ideazione, design, o
acquisizione di dati, o analisi e interpretazione
dei dati
Revisione dell’articolo per il suo elevato
contenuto
Approvazione finale della versione da
pubblicare
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Principi etici legati al processo di
valutazione e pubblicazione dell’articolo
Considerazioni etiche legate
all’autore – studi multicentrici
Il gruppo dovrebbe individuare coloro che
assumeranno la responsabilità diretta del
manoscritto
Tali persone devono rispettare i criteri descritti
per l’autore
L’autore che contatta l’editor dovrebbe
identificare tutti i singoli e il nome del gruppo
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
The importance of Appendix
Grafici e tabelle
numerati e
sequenziali al
testo
se non
indispensabili per
la comprensione
del testo,
andrebbero posti
in appendice
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Problemi con l’authorship
Credenziali, affidabilità
Molti autori non incontrano i criteri ICMJE
Paternità “regalata” dell’articolo
A volte i “veri” autori non compaiono
nell’articolo…
Alcune riviste (Lancet, BMJ, Annals of Internal
Medicine, J Clin Oncol) ora richiedono agli autori
di dichiarare il loro ruolo nella ricerca presentata
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La ricerca nascosta negli articoli …
Per determinare in che modo i punti di vista
espressi dagli autori fossero una
rappresentazione accurata delle opinioni dei
contributors sulla ricerca pubblicata, è stato
preso un campione di 10 articoli di ricerca
pubblicati da The Lancet nel 2000
È stata fatta un’analisi qualitativa delle risposte
alle 6 domande sul significato dello studio ai
contributors in elenco ad ogni articolo.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La ricerca nascosta negli articoli:
Risultati …
Hanno risposto 36 (67%) dei 54 contributors
contattati
I contributors hanno spesso espresso disaccordo
sull’importanza dei risultati, sulle implicazioni e sulle
indicazioni per la futura ricerca
Sono state ammesse importanti debolezze degli
studi che non erano state dichiarate negli articoli
pubblicati
Le divergenze delle opinioni dei contributors erano
state generalmente escluse dalla versione
pubblicata dell’articolo
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Conflitto di interesse
Si ha quando un reviewer o un editor ha
interessi finanziari, personali, commerciali,
politici o accademici che potrebbero
influenzarne le azioni
Tutti i partecipanti al processo di
pubblicazione devono dichiarare relazioni che
potrebbero presentare / essere viste come un
potenziale conflitto di interesse
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Publishing Issues
Si devono pubblicare tutti gli studi ben condotti
su un argomento importante, anche se i risultati
sono negativi
Gli studi clinici devono essere registrati in un
public trials registry (l’ICMJE raccomanda ce le
riviste pubblichino il numero di registrazione del
trial alla fine dell’abstract)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Preparare e inviare
un articolo:
aspetti tecnici
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Preparare e inviare un articolo:
aspetti tecnici
Il testo di articoli sperimentali è generalmente
diviso in parti, ovvero:
Introduction,
Methods,
Results,
Discussion
(c.d.“IMRAD” structure)
Altri tipi di articoli (case reports, reviews, letters
to the editor) hanno generalmente un’altra
struttura
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Linee guida per la stesura di
studi specifici
I Research Reports possono omettere
informazioni importanti:
sono state sviluppate linee guida per una
serie di disegni di studi
alcune riviste chiedono agli autori il rispetto di
dette indicazioni
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Gli autori possono fare riferimento a ….
Initiative
Type of study
CONSORT
Randomized controlled trials
STARD
Studied of diagnostic accuracy
QUORUM
Systematic reviews and metaanalyses
STROBE
Observational studies in
epidemiology
MOOSE
Meta-analyses of observational
studies in epidemiology
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
CONSORT
(CONsolidation of the Standards Of Reporting
Trials)
CONSORT è stato sviluppato da un gruppo di
ricercatori e di editors, è stato pubblicato nel
1996
Consiste in una checklist e diagrammi di flusso
che gli autori possono utilizzare per riportare un
randomized clinical trial (RTC)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Obiettivi di CONSORT
Facilitare la critical appraisal e
l’interpretazione di RCT aiutando gli autori
a riportare in modo ottimale il loro lavoro
Migliorare la qualità della trasposizione in
articolo di un RCT
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Le indicazioni CONSORT facilitano la
buona pratica per gli RTC
“good science”
“poor science”
Adeguate designs and
report
Design and report not
adeguate
Correct evaluations of
treatment effects
Distorted evaluation of
treatment effects
Good clinical
practice!
Cicolini Giancarlo Palma Elisabetta
Poor clinical practice!
G. d’Annunzio University
4. Dove pubblicare …?
La scelta della rivista
La scelta dovrebbe andare sulla rivista con
massimo Impact Factor (IF) e massimo Citation
Index (CI)
Tuttavia, va considerato:
- se l’articolo è “appropriato” per lo stile di
quella rivista
- qual è il “pubblico” a cui è destinato il
messaggio
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Va anche considerato …
Che tipo di articoli pubblica quella rivista
(ad es.: clinically based o basic science
based)
Se il format scelto per l’articolo (letter,
review, ecc.) viene pubblicato da quella
rivista
Se l’articolo è “troppo specialistico” per
quella rivista
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Potrebbe essere utile …
Leggere attentamente le linee guida per gli
autori della rivista scelta
Andarsi a vedere i numeri recenti per capire qual
è il tipo di articoli che viene normalmente
pubblicato
Scegliere la rivista prima di iniziare a scrivere
l’articolo …
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Non ancora ... !
Assicuratevi di avere tutto il necessario:
- dati definitivi
- bibliografia
- anteprima delle tabelle e dei grafici
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La preparazione del
manoscritto:
le sezioni di un articolo
Le sezioni di un articolo
Riprendiamo – per gli articoli di ricerca - la
struttura IMRAD:
- Introduzione
- Metodi
- Risultati
- Discussione
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La struttura IMRAD
Non è una scelta arbitraria, ma riflette
direttamente il processo di scoperta
scientifica
Ogni sezione risponde a domande
scientifiche specifiche
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Le domande scientifiche sezione per
sezione …
Introduzione: perché ho fatto lo studio
Metodi: come ho fatto lo studio
Resultati: cosa ho trovato
Discussione: che può significare?
significare
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Il titolo
dell’articolo
Cicolini Giancarlo
G. d’Annunzio University
Il titolo dell’articolo
È il “biglietto da visita” di un articolo e deve
descriverne brevemente il contenuto
Il titolo è la parte dell’articolo che sarà la più letta in
assoluto
Deve permettere ai lettori di rintracciare l’articolo nei
database elettronici e far capire la natura
dell’articolo
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Come NON dovrebbe
essere un titolo …
Troppo lungo ... meno facile da leggere!
“On the discovery of a useful new laboratory research
method for isolating and purifying the lactosedegrading enzyme β-galactosidase from the
economically important, yogurt-producing bacterial
species Lactobacillus bulgaricus”
Troppo corto … potrebbero mancare
informazioni rilevanti!
“Recombinant Human Antithrombin III”
Ironico, pomposo, con abbreviazioni o acronimi
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
… e come DOVREBBE essere
Abbastanza conciso e comprensivo delle
informazioni (es.: il disegno dello studio) che
permettono di qualificare meglio l’articolo
Descrittivo, fortemente associato al contenuto
dell’articolo
Lunghezza raccomandata: 10-12 parole
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Le regole d’oro …
Esprimete solo un’idea o soggetto nel
titolo
Mettere prima le parole più significative,
usare una costruzione di frase semplice.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
E, dopo il titolo …
Nome degli autori, istituto di provenienza
Nome del corresponding author
Breve sottotitolo (in genere non più di 40
caratteri)
Conteggio delle parole
Numero di grafici e tabelle
Cicolini Giancarlo
Palma Elisabetta
G. d’Annunzio University
Abstract
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Abstract
È spesso l’unica parte dell’articolo accessibile
elettronicamente
Deve riflettere accuratamente il contenuto
dell’articolo
Vene scritto di solito dopo che l’articolo è stato
completato, per evitare contraddizioni con il
contenuto del testo
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Struttura dell’abstract
L’abstract va strutturato secondo le richieste
della rivista
Descrivere iI background dello studio, gli scopi
e le procedure (selezione dei partecipanti,
metodi osservazionali o analitici), risultati (non
tutto, alcuni dati soltanto), conclusioni
Enfatizzare aspetti nuovi e importanti dello
studio
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Lunghezza dell’abstract
Deve essere un breve riassunto del lavoro
Normalmente è previsto un limite di parole
(200-250 parole)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Errori comuni
Troppe informazioni sul backgroung o sui metodi
Figure o immagini
Riferimenti alla letteratura
Abbreviazioni, acronimi
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
L’indicizzazione
L’abilità nel trovare un articolo rilevante
nelle banche dati elettroniche dipende in
larga parte da come è stato indicizzato
Gli indicizzatori per MEDLINE possono
non classificare un report come RCT se gli
autori non specificano questa
informazione
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Il valore delle parole …
Palma Elisabetta
Keywords
In genere vengono chieste 3-10 keywords, da
inserire dopo l’abstract
Queste parole chiave devono cogliere l’essenza
dell’articolo
Sono utili per l’indicizzazione su Medline
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Introduzione
Perché abbiamo fatto lo studio?
l’importanza dello studio in questo campo
della ricerca
cosa è stato fatto prima (breve descrizione)
cosa è stato necessario per lo studio
ipotesi e scopi dello studio
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Metodi
Come abbiamo condotto lo studio?
Disegno dello studio (era un RCT, oppure…?)
Numero dei soggetti inclusi
Criteri di inclusione/esclusione
Tipo di intervento applicato
Quali outcomes sono stati misurati e in che
modo
Analisi statistica (calcolo della numerosità
campionaria)
Principi etici e consenso
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Resultati
Cosa abbiamo trovato?
I dati andrebbero presentati in forma chiara,
concisa, ponendo l’accento su cosa è
rilevante
I risultati andrebbero presentati tutti (incluso
quelli negativi o non significativi …)
Il testo dovrebbe descrivere la ricerca
Le tabelle dovrebbero far risaltare le evidenze
Le figure/grafici dovrebbero illustrare i punti
salienti
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Discussion
Cosa potrebbero significare i nostri
risultati?
Affermazioni di risultati importanti
Forza dello studio
Comparazione con altri studi
Limiti della ricerca
Significato dei risultati
Domande irrisolte
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Conclusioni
Gli articoli dovrebbero concludersi con
pochi risultati - chiave
Le conclusioni dovrebbero essere chiare e
forti e … ben supportate dai risultati!!
È utile concludere suggerendo che tipo di
ricerca sviluppare in futuro
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Ringraziamenti
Chi ha provveduto a sostenere la ricerca
tramite finanziamenti, farmaci, attrezzature
Le persone che hanno aiutato nella
stesura dell’articolo, delle tabelle o delle
figure
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Refences
L’Autore è responsabile dell’accuratezza dei
riferimenti bibliografici
Una bibliografia approssimata si riflette
negativamente sull’articolo
Controllare che il formato della bibliografia
rispetti le richieste della rivista (Harvard o
Vancouver style…)!
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Vancouver system
Utilizza riferimenti numerati in apice all’interno
del testo
La bibliografia è riportata nell’ordine con cui
appare nel testo
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Harvard system
Utilizza il nome del primo autore e la data di
pubblicazione
La bibliografia è riportata in ordine alfabetico
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
STATE ATTENTI!
Rispettate il format
Corrispondenza tra il numero riportato nel testo
o nelle tabelle e l’elenco delle references!
Evitate riferimenti bibliografici ad articoli se non li
avete letti!
Evitate comunicazioni personali …
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La prima bozza …
Le parti di un articolo scientifico non
vengono scritte necessariamente
nell’ordine con cui vengono stampate …
Titolo e abstract andrebbero scritti alla
fine!
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Preparazione
dell’Introduzione
Palma Elisabetta
L’introduzione è importante!
Per catturare l’interesse del lettore
Per introdurre l’oggetto dello studio
Per spiegare le ragioni della ricerca
Determina la “prima impressione”
sull’articolo
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Come dovrebbe essere …
concisa
ben strutturata
contenere tutte le informazioni necessarie
per seguire lo sviluppo dello studio fino ai
risultati
di solito consta di 300-500 parole
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Strutturazione dell’introduzione
Background
Problema specifico
Soluzione proposta
Informazioni generali
(il contesto scientifico)
Problema
specifico
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Background
Palma Elisabetta
Come iniziare
Identificare in modo chiaro un’area di
interesse
Si possono utilizzare parole chiave nel
titolo o nelle prime frasi per focalizzare in
modo appropriato l’introduzione
sull’argomento trattato
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La frase di apertura …
La prima frase deve essere forte in modo da
catturare l’interesse del lettore
Ciò permette di arrivare subito all’argomento
principale senza dilungarsi sulle informazioni
generali
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Il contesto (I)
Questa parte è dedicata a chiarire qual è il
contesto del nostro lavoro
Dobbiamo dare un’idea dello stato dell’arte nel
campo in cui si colloca il nostri articolo
Per fare questo, è utile fornire una breve review
della letteratura pertinente disponibile
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Il contesto (II)
Riassumere le conoscenze disponibili sul
problema specifico prima dell’inizio dello studio
Riportare solo gli articoli di riferimento
sull’argomento (e non tutta la letteratura
disponibile!)
La review non deve includere spiegazioni
dettagliate – che andranno inserite nelle
DISCUSSIONI
Questa parte deve essere breve (in genere meno
di una pagina)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Quale letteratura?
Concentrarsi sulle riviste scientifiche, citare gli
articoli che apportano informazioni rilevanti per il
nostro studio
Libri di testo e manuali non andrebbero citati, in
quanto contengono informazioni di “conoscenza
comune”
Le review di articoli sono utili per riassumere la
ricerca svolta in un campo specifico
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
2. Il problema specifico
Palma Elisabetta
Qual è il problema …?
Se non ci fosse il problema … allora non ci
sarebbe motivo di fare una ricerca e scrivere un
articolo
Questa sezione tratta del problema specifico su
cui si incentra la ricerca
Può contenere dettagli di argomenti rilevanti non
famigliari per il lettore
In questo paragrafo si può anche puntualizzare
su eventuali carenze di informazioni in
letteratura
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Il razionale dello studio …
La natura e la gravità del problema dovrebbero
fornire il razionale dello studio
Una semplice affermazione può chiarire la
significatività del problema (es.: nessuno ha
valutato l’attività …) o spiegare al lettore perché
vale la pena continuare a leggere
Di solito sono sufficienti poche righe per esaurire
questa sezione
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Il problema (BIG 1-98)
Randomized Study of Adjuvant Letrozole Versus
Tamoxifen in Postmenopausal. Women With Operable,
Hormone Receptor-Positive Breast Cancer.
Confronto di letrozolo (Femara®) adiuvante vs
tamoxifene somministrato per 5 aa. in donne in
menopausa con ca. mammario operabile e ormonosensibile.
Comparazione regimi di trattamento sequenziali vs.
continui nella popolazione delle pazienti.
Valutare outcomes sopravvivenza
globale,sopravvivenza libera da malattia/sintomi,
sicurezza, tollerabilità.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
3. La soluzione proposta
Il nostro studio …
A questo punto vanno chiariti gli obiettivi
specifici del nostro studio
Chiarire gli obiettivi principali e secondari
Descrivere ogni sottogruppo di analisi
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Aspetti innovativi del nostro lavoro
Vanno assolutamente esplicitati
Definire chiaramente in cosa il nostro metodo di
ricerca differisce dagli altri, chiarire qual è stato il
razionale dello studio utilizzato per approcciare il
problema studiato
Se utilizziamo un metodo nuovo / diverso da
quelli tradizionali spiegarne i vantaggi
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La soluzione (BIG 1-98)
il Letrozolo è più efficace del Tamoxifene nel ridurre le recidive nel tumore
alla mammella in fase precoce
Lo studio BIG 1-98 ( Breast International Group 1-98 ) era stato
disegnato in un primo tempo come un confronto head-to-head del
Letrozolo con il Tamoxifene ha permesso di identificare diversi fattori
che sono correlati al successo della terapia endocrina. Un totale di 6091
pazienti sono stati assegnati in modo casuale:
5 anni
tamoxifene
letrozolo
tamoxifene
letrozolo
letrozolo
tamoxifene
I pazienti con coinvolgimento dei linfonodi presentavano una maggiore
probabilità alla progressione se erano trattati con Tamoxifene che con
Letrozolo.
Fonte: 5th European Breast Cancer Conference, 2006
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Errori comuni
Troppe o troppo poche informazioni
Scopi non chiari
Strutturazione confusa
Aneddoti in prima persona
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La pubblicazione dei dati: come
scrivere un articolo corretto ed efficace
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La pubblicazione dei dati: come
scrivere un articolo corretto ed efficace
SEZIONE METODI
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La pubblicazione dei dati: come
scrivere un articolo corretto ed efficace
SEZIONE METODI
Descrizione degli obiettivi, del disegno
sperimentale e della selezione della casistica
Descrizione dell’analisi statistica
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La pubblicazione dei dati: come
scrivere un articolo corretto ed efficace
SEZIONE RISULTATI
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
IV. Manuscript Preparation and Submission
A. Preparating a Manuscript for Submission to Biomedical Journals
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
IV. Manuscript Preparation and Submission
A. Preparating a Manuscript for Submission to Biomedical Journals
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
ICMJE raccomandazioni
Metodi
Inserire solo informazioni disponibili al momento
della stesura del protocollo
Tutte le informazioni ottenute durante la
conduzione dello studio appartengono alla
sezione dei risultati
International System of Units (SI)
Iscrizione dello studio in un registro pubblico
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Rifiuto dell’articolo: la Top 10
1.
2.
3.
4.
5.
6.
7.
8.
Statistica inappropriata o incompleta
Interpretazione eccessiva dei risultati
Strumenti inappropriati o non ottimali
Campione piccolo o con bias
Difficoltà a seguire il testo
Problema non abbastanza definito
Report dei dati inaccurato o inconsistente
Review della letteratura incompleta, non accurata o
troppo datata
9. Presentazione dei dati insufficiente
10. Tabelle e grafici non appropriati
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
“Replicability of results
is the heart of science”
La sezione dei pazienti e metodi dovrebbe
contenere un’esposizione dettagliata del piano
della ricerca da permettere al lettore di:
replicare l’esperimento per valutare la
riproducibilità dei risultati
giudicare se i risultati e le conclusioni sono
validi
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
PROTOCOLLO SPERIMENTALE
(in accordo alle GCP)
Informazioni di carattere generale
Background scientifico
Obiettivo e finalità dello studio
Disegno dello studio
Selezione dei pazienti
Schema terapeutico
Valutazione dell’obiettivo
Aspetti etici
Metodologia Statistica
Cicolini Giancarlo Palma Elisabetta
Sezione
Pazienti e
Metodi
G. d’Annunzio University
Sezione Pazienti e Metodi
Obiettivo e finalità dello studio
Obiettivo principale unico
Obiettivi secondari
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Sezione Pazienti e Metodi
Disegno dello studio
Prospettico
Studio
sperimentale
Retrospettivo
Studi clinici
Fase I-II-III
Studio di coorte Coorte storica
Caso controllo
Studio
osservazionale
Cicolini Giancarlo Palma Elisabetta
Studio trasversale
G. d’Annunzio University
Studi osservazionali e sequenza temporale
Bolus IFL + Placebo
Metastatic R
CRC
Cicolini Giancarlo Palma Elisabetta
Bolus IFL + bevacizumab
FL + bevacizumab
G. d’Annunzio University
Sezione Pazienti e Metodi
Selezione dei pazienti
Criteri di inclusione
(caratteristiche dei soggetti, della patologia, dei trattamenti,ricevuti, del
protocollo diagnostico adottato)
Criteri di esclusione
Criteri per il ritiro dei soggetti
Provenienza della popolazione
Procedure di randomizzazione / cecità
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Perché randomizzare?
Per ottenere gruppi di pazienti confrontabili in
termini di fattori prognostici (noti e non noti)
Per attribuire l’eventuale differenza in termini di
efficacia (sopravvivenza) solo ai trattamenti a
confronto
Per supplire alla mancata conoscenza di tutti i
fattori prognostici
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La randomizzazione …
Non assicura che i gruppi siano equivalenti dal
punto di vista medico ma che i fattori prognostici,
noti e non, siano distribuiti a caso
Senza la randomizzazione “una differenza
statisticamente significativa” può essere il
risultato di differenze non casuali nella
distribuzione dei fattori prognostici sconosciuti
=
Garantisce la validità dei metodi statistici
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Come rendere comparabili
i due gruppi?
Tecniche di randomizzazione
Randomizzazione a sequenza fissa
• Semplice: non esiste un vincolo sul bilanciamento
numerico dei gruppi
• A blocchi: bilanciamento ogni n pazienti con n fisso o
variabile
• Stratificata: lista per ogni strato per controllare la equa
distribuzione nei bracci di trattamento
Randomizzazione adattata (minimization tecnique):
• La sequenza è determinata dinamicamente per
premettere il bilanciamento e la equa distribuzione
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Sezione Pazienti e Metodi
Schema terapeutico-intervento-questionarioapproccio organizzativo
Descrizione del trattamento da somministrare in termini
di dosi, schemi, vie di somministrazione, durata, tempi
Criteri univoci per la riduzione delle dosi, per il rinvio di
una somministrazione, per la sospensione del
trattamento
Trattamenti premessi e proibiti
Descrizione del questionario, intervento, approccio
organizzativo
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Sezione Pazienti e Metodi
Valutazione dell’obiettivo
Descrizione della misura dell’obiettivo (end-point)
Metodologia per la rilevazione dell’obiettivo
• Metodi standard: referenze bibliografiche
• Metodi innovativi: giustificazione e descrizione
dettagliata
• Uso di kit, apparecchi: specificare ditta e sede
• Unità di misura: International System of Units (SI)
Misurazione della tossicità – Eventi avversi
Qualità di vita
Procedure di follow-up
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Sezione Pazienti e Metodi
Aspetti etici
Consenso Informato Scritto
Approvazione Comitati Etici Indipendenti
Studi osservazionali?
Normativa vigente
Tutela della privacy
GCP
Dichiarazione di Helsinky
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Sezione Pazienti e Metodi
Metodologia statistica
Descrizione dei metodi di analisi statistica
Metodi standard: referenze bibliografiche
Metodi innovativi: giustificazione e descrizione
dettagliata
Indicatori dell’incertezze (intervalli di confidenza)
Computer/software
Eventuali analisi ad interim
Giustificazione della numerosità campionaria
Popolazione da analizzare
Trattamento dati mancanti
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
CONSEGUENZE DOVUTE A DATI
MANCANTI
RIDUZIONE della POTENZA dei test condotti
dovuta alla riduzione della numerosità
campionaria.
Possibile DISTORSIONE (BIAS), dovuta al fatto
che fatto che i rispondenti spesso non
costituiscono un campione casuale della
popolazione campionata né, di conseguenza,
della pop. di riferimento.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
I soggetti da analizzare: strategie
“Intention-to-treat” (ITT) – “as randomized”
“per protocol ”- “as treated”
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Intention to treat
Tutti i pazienti randomizzati nell’analisi ed
assegnati al gruppo definito dalla
randomizzazione
Indipendentemente da:
Criteri di eligibilità
Trattamento effettivamente ricevuto
Fuoriuscite o deviazioni del protocollo
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
INTENTION TO TREAT
Misura l’effetto “vero” del trattamento
Conserva gli effetti della randomizzazione sulla
comparabilità:
l’esclusione di pazienti randomizzati può
minare la casualità dell’assegnazione al
trattamento
Garantire la generalizzabilità dei risultati:
i pazienti randomizzati rappresentano la
popolazione generale
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
L’analisi “per-protocol”
Definizione
Sono valutabili solo i malati randomizzati, che
hanno rispettato i lprotocollo di studio
Obiettivo
Misura l’effetto “teorico” del trattamento nelle
migliori condizioni sperimentali, cioè nei pazienti
“ideali”
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Pazienti con carcinoma mammario operabile
Pazienti eleggibili
per lo studio
(T1-3° N+ M0)
Pazienti che danno il
consenso allo studio
Pazienti non eleggibili
Pazienti che rifiutano
Il consenso
Registrazione delle
pazienti allo studio
a.
b.
c.
d.
Pazienti che ricevono il trattamento correttamente
Pazienti che rifiutano di proseguire il trattamento
Pazienti che ricevono il trattamento in modo discontinuo
Pazienti perse al follow-up
ANALISI DEI RISULTATI
ITT: (a+b+c+d)
PP: a
Cicolini Giancarlo Palma Elisabetta
Modificato da Bonadonna
G. d’Annunzio University
Validità interna
Studio clinico controllato
Modificato da Bonadonna
CAMPIONE
CAMPIONE
Selezione
RANDOMIZZAZIONE
B
CHIRURGIA
?
A
??
CHIRURGIA
+ CMF
SLM a 10 anni
31.4%
A: pazienti con carcinoma mammario
B: pazienti con carcinoma mammario
T 1a- T 3a- N+M0
Cicolini Giancarlo Palma Elisabetta
43.4%
CONCLUSIONE
Risultato statisticamente significativo
(P<0.001).
Il trattamento con CMF è considerato
efficace
G. d’Annunzio University
Dimensione del campione:
Elementi necessari per il calcolo:
Rischio di morte ad un dato tempo o mediana
del trattamento standard
Differenza attesa (assoluta o relativa)
Livello di significatività (α)
Potenza
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Dimensione del campione:
La dimensione del campione
cresce:
All’aumentare della potenza
Al diminuire di α e differenza
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Dimensione del campione:
Di solito è espresso in
termini di numero di pazienti
N, ma in realtà
è importante il numero di
eventi
(decessi, riprese..)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Variazione del numero (N)di soggetti
in funzione di alcuni valori dei parametri che devono
essere definiti a priori
(α=0.05, test a due code, Sc a 5 anni = 22%)
Durata dello studio (durata del reclutamento)
5 anni (3 anni)
7 anni (5 anni)
Potenza
80%
90%
Potenza
80%
90%
Numero di soggetti per braccio di trattamento
Ss = 37%
172
230
150
201
Ss = 29%
782
1047
692
926
Ss = 25%
5272
7057
4685
6272
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Ricordarsi che:
Endpoint surrogati
endpoint a lungo termine
Significatività statistica
significatività clinica
Assenza di evidenza
evidenza di assenza
Cicolini Giancarlo
G. d’Annunzio University
Endpoint surrogati
Definizione
“Una variabile di risposta per la quale un test di
ipotesi sulla relazione tra i gruppi di trattamento
è anche un valido test sul corrispondente vero
endpoint” (Prentice, 1989)
VANTAGGI
Riduzione dimensione del campione e/o durata dello
studio
Misurazione non invasive
Più facilmente interpretabili
Maggiore conoscenza sull’evoluzione della malattia
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Typical cardiovascular trials with surrogate
and true endpoints: sample size and follow
up periods
True endpoint
Surrogate endpoint
Event
Endpoint
Size
Lenght
Endpoint
Size
Lenght
Myocardial
infarction
Death
4000
5 yrs
Coronary
artery
patency
200
90 mins
Myocardial
infarction
Death
4000
5 yrs
Ejection
fraction
30
2-4 wks
Stroke
Stroke
25000
5 yrs
Diastolic
blood
pressure
200
1-2 yrs
SC Chow, 2003
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La pubblicazione dei dati: come
scrivere un articolo corretto ed efficace
SEZIONE RISULTATI
Descrizione dei risultati: la popolazione studiata e
le variabili studiate
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
IV. Manuscript Preparation and Submission
A. Preparating a Manuscript for Submission to Biomedical Journals
1.
General Principles
b.
Reporting guidelins for specific Study Designs
Title page
Conflict of Interest Notification Page
Abstract and Key Words
Introduction
Methods
a.
2.
3.
4.
5.
6.
a.
b.
c.
7.
8.
9.
Results
Discussion
References
a.
b.
10.
11.
12.
13.
14.
Selection and Description of Participants
Technical Information
Statistics
General Considerations Related to References
Reference style and Format
Tables
Illustrations (figures)
Legends of Illustrations
Units of Measurement
Abbreviations and Symbols
B. Sending the Manuscript to the Journal
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
ICMJE raccomandazioni
RISULTATI raccomandazioni generali
Riporta i risultati dello studio descritto nei metodi senza:
Inserire note metodologiche
Interpretare i dati riportati
Introdurre voci bibliografiche
Andare “fuori tema”
Struttura la sezione dei risultati in modo che sia:
Breve ed ordinata
Organizzata cronologicamente e/o logicamente
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
RISULTATI:
Come si presentano
Testo: racconta la storia
Tabelle: riassumono i risultati
Figure: evidenziano trend, distribuzioni etc
Analisi statistica: supporta i risultati riportati
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
RISULTATI:
tabelle e figure
Ricordati che la prima cosa che un lettore guarda
di un articolo sono le tabelle e figure
Se non sono chiare o interessanti difficilmente
andrà avanti
Comprensibili ed indipendenti dal testo:
Forte impatto visivo
Informative
Facili da interpretare
Auto-esplicative
Seguire la sequenza e la forma del testo:
Stessi nomi variabili, unità di misura ed abbreviazioni
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Indice rappresentato in tabella
Frequenza assoluta
Conteggi: conta dei soggetti classificati in
una categoria o modalità
Frequenza relativa
Proporzioni (Percentuali): soggetti
classificati in una categoria/ Totale soggetti
studiati
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Diagrammi a torta
In generale:
Può essere rappresentato un solo carattere
Le modalità sono rappresentate dagli spicchi
della torta
L’AREA della torta è proporzionale alla
frequenza relativa della modalità
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Diagrammi a barre
variabili categoriche
Le modalità qualitative sono riportate in
ascissa
Per ogni modalità si costruisce un rettangolo
L’altezza del rettangolo è proporzionata alla
frequenza rilevata per la modalità
La scala utilizzata per gli assi deve consentire
la visualizzazione dei rettangoli interi
I rettangoli non devono essere adiacenti
(tranne nel caso di variabili ordinali …)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Istogrammi
variabili numeriche
I dati vengono divisi in classi
Per ogni classe si costruisce un rettangolo
L’area del rettangolo è proporzionale alla
frequenza rilevata per il gruppo
La scala utilizzata per gli assi deve consentire la
visualizzazione dei rettangoli interi
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Guidelines / Checklist for Reporting Results:
CONSORT
Improving the quality of reporting of randomized
controlled trials: the CONSORT statement.
JAMA 1996; 276: 637-369
Title and Abstract
Introduction
Background
Methods
Results
Discussion
Results
Participating folw
Recruitment
Baseline data
Numbers analyzed
Outcomes and Estimation
Ancillary analyses
Adverse events
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
REPORTING curve di sopravvivenza
Riportare nel grafico della curva di sopravvivenza
n. paz. a rischio o limiti di confidenza
Riportare chiaramente quali pazienti sono stati
analizzati e quali esclusi BIAS
Riportare inoltre
Definizione entry-point e end-point
Data di inizio e fine reclutamento
Data dell’ultimo aggiornamento follow up
Percentuale censor, percentuale Lost to Follow up
Queste informazioni sono utili per giudicare:
MATURITA’ dei dati
QUALITA’ dello studio
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
LIMITI DI CONFIDENZA PER P
La PRECISIONE e la STIMA di SOPRAVVIVENZA
decresce all’aumentare di i, cioè al diminuire del
numero di pazienti a rischio (var aumenta)
Es:
100 paz. a 5 anni con
P 5aa – 0.40 95% Cl=0.30-0.50
1000 paz. a 5 anni con
P 5aa – 0.40 95% Cl=0.37-0.47
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
CARCINOMA DELLA MAMMELLA
N – Alta proliferazione
Studio randomizzato terapia adiuvante
CONTROLLO vs CMF
Controllo (C)
CMF
Probabilità di sopravvivenza libera da malattia a 5
anni S (t)
0.72
0.83
Rischio di ripresa a 5 anni F (t) = 1-S (t)
0.28
Cicolini Giancarlo Palma Elisabetta
0.17
G. d’Annunzio University
CARCINOMA DELLA MAMMELLA
N-Alta proliferazione
Rischio relativo: FT=/FC = 0.17/0.28 = 0.61
RRR = (FT-FC)/FC = (0.17-0.28)/0.28 = -0.39
ARR = FT-TC = 0.17-0.28 = - 0.11
NNT = 1/IARRI = 1/0.11 = 9.1
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
ESEMPIO IPOTETICO
FT = 0.017
FC = 0.028
RR = 0.017/0.028 = 0.61
RRR = (0.017-0.028)/0.028 = -0.39
ARR = 0.017-0.028 = -0.011
NNT = 1/0.011 = 90.90
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
3 “trials ”sull’IMA fatale e non fatale
Trial 1. un intervento medico riduce del 34% (IC al 95%
= 9% - 55%) l’incidenza dell’IMA. La riduzione è
statisticamente significativa.
Trial 2. un intervento medico riduce del 1.4% (IC al 95%
= 0.9% - 2.5%) l’incidenza dell’IMA (2.5% vs 3.9). La
riduzione è statisticamente significativa.
Trial 3. un intervento medico ha le seguenti
caratteristiche: 75 persone devono essere trattate per
almeno 5 anni per prevenire 1 IMA.
Naylor et al. Ann Intern Med. 1992; 117: 916-921
(modified).
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Ancillary analysis - Molteplicità dei test
ENDPOINT:… Non si sono osservate differenze
statisticamente significative tra i due trattamenti per
quanto riguarda O.S. , P.F.S. , Q. o L., e tossicità.
Il trattamento X si è però dimostrato significativamente più
efficace di Y nel ridurre la mortalità per LA CAUSA Z
SOTTOGRUPPI: … Si è però osservato che nei pazienti
maschi di età < 55 anni con buon PS il trattamento X
induceva un miglioramento prognostico significativo
(P<0.05). Questo fa ritenere …
ANALISI RIPETUTE: … nel corso del secondo anno dello
studio ha però iniziato a manifestarsi, nel confronto tra i
due trattamenti, un trend a favore del trattamento X che
al 34° mese ha raggiunto la significatività statistica
(P<0.05), inducendoci all’interno dello studio
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Effetto del numero test effettuati sulla probabilità di
ottenere un risultato falso-positivo
N. Test ripetuti
1
2
3
4
5
10
20
30
Cicolini Giancarlo Palma Elisabetta
Probabilità di commettere
errore del tipo I
(risultato falso positivo)
0.05
0.08
0.14
0.19
0.23
0.40
0.64
0.79
G. d’Annunzio University
Il problema della molteplicità
P statistica: Probabilità di osservare un fenomeno raro
quanto quello osservato (o più raro) se è vera l’ipotesi
nulla (Eguale efficacia dei due trattamenti.)
ES. BRACCIO A
Risposte 30/40 (75%)
BRACCIO B
Risposte 20/40 (50%)
P = 0.02
La probabilità di osservare un risultato come questo per
puro caso è del 2%
Livello di significatività convenzionale per rifiutare
l’ipotesi nulla: 5%
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Conseguenze
Poiché la probabilità che nessuno dei 100 studi
dia risultati significativi è del 6/1000, la
probabilità che almeno 1 di più studi/analisi
fornisca, per caso, risultati statisticamente
significativi è chiaramente > 5%
La probabilità di un risultato falsamente positivo
aumenta all’aumentare del numero di test di
significatività
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Test multipli vs Analisi derivate dai dati
Test multipli:
Prederminati (Protocollo di studio)
Numero finito
Possibile correzione statistica
Analisi derivate dai dati
L’osservazione di un particolare fenomeno induce
all’esecuzione di un test di significatività
Numero potenzialmente illimitato
Prive di alcuna validità statistica
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Analisi ad interim
Disegno tradizionale (una sola analisi
finale)
Disegni flessibili:
Sequenziale a gruppi (analisi ad interim –
decisioni “go/no-go”)
adattivi
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
ANALISI INTERMEDIE
Le ragioni principali delle analisi intermedie sull’outcome
finale sono:
Evitare che i futuri pazienti ricevano un trattamento
palesemente meno efficace
Evitare un eccessivo prolungamento dello studio, una
volta che siano ragionevolmente chiariti i principali
confronti tra i trattamenti.
Problemi da considerare:
Organizzare le analisi intermedie (fattibilità: dimensioni
inadeguate, male organizzata, dati incompleti, necessità
di lungo follow up)
Interpretare i relativi risultati
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
LIVELLI NOMINALI DI SIGNIFICATIVITA’
Disegni a gruppi sequenziali
Questo problema può essere superato scegliendo un livello nominale di
significatività più rigido per test ripetuto, in modo che tale livello di
significatitvità globale sia mantenuto al 5%
Viene stabilito a priori il numero di analisi e quando saranno
effettuate(es:analisi dopo 100,200 e 300 eventi = finale)
2.
Viene stabilito un insieme di regole per “spendere” l’errore α nelle
varie analisi
Criterio Spesa Costante (poco usato)
1
2
3
4
5
Si interrompe lo studio se p < .0158 .0158 .0158 .0158 .0158
Criterio Spesa Variabile
1
2
3
4
5
Si interrompe lo studio se p < .0051 .0061 .0073
.0089 .0402
1.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Cicolini Giancarlo
G. d’Annunzio University
Per concludere …
Per chi scrive:
prima di spedire l’articolo ricontrolla uno per uno i dati
che riporti. C’è sempre un errore da qualche parte!
Per chi legge:
la scienza spesso non è obiettiva:
non limitarti a leggere solo Methods e Results
non leggere l’Abstract riportato in fonti non valutate
attenzione a confronti errati
attenzione agli endpoints composti
attenzione a effetti terapeutici
minimi
attenzione alle analisi dei sottogruppi
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Preparazione della sezione
“Discussione e
Conclusioni”
Scopi della sezione discussioni
Spiegare le implicazioni dei risultati
Stabilire le nostre interpretazioni e opinioni
Suggerire spunti per ulteriori ricerche
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Nelle discussioni:
Diamo risposta alle domande poste
nell’introduzione
Spieghiamo come i risultati supportano le
risposte a quelle domande
Discutiamo sul modo in cui le risposte
vanno a impattare sulle conoscenze attuali
sull’argomento
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
E, cosa più importante …
quando scriviamo le conclusioni,
pensiamo al lettore
dobbiamo convincere il lettore della
rilevanza del nostro studio
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Rilevanza di uno studio non
significa risultati positivi …!
Il destino degli studi …
Un esame di 510 abstract di RCT presentati ad ASCO
dal 1989 al 1998
Il 26% degli studi non è stato pubblicato per intero
dopo 5 anni dalla presentazione dell’abstract
L’81% degli studi con risultati significativi e il 68%
degli studi senza risultati significativi è stato
pubblicato (p<.001)
Gli studi che hanno avuto una presentazione orale
sono stati pubblicati prima (p=0.002)
Studi con sponsor farmaceutici sono stati pubblicati
prima (p=0.02)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Tempo necessario per la pubblicazione
In media ci vogliono 2,7 anni per vedere il
proprio articolo pubblicato!
La differenza tra tempo di pubblicazione di
articoli con risultati significativi (2,2 anni) e
senza risultati significativi (3 anni) è di circa
0,8 anni.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Rilevanza di uno studio con
risultati negativi …
The CLIP-01 study
Tamoxifen in the treatment of hepatocellular
carcinoma: 5-year results of the CLIP-1
multicentre randomised controlled trial
Current pharmaceutical design 2002;8(11):1013-1019
Methods: The study had a planned sample size of 480
patients. Patients with any stage HCC were eligible,
irrespective of locoregional treatment. Tamoxifen
was given orally, 40 mg/die, from randomisation until
death.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Tamoxifen:
the meta-analysis of 1997
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Tamoxifen:
The results of CLIP-01 study
Results: 496 patients were randomised by 30
Institutions from January 1995 to January 1997.
Information was available for 477 patients. As of July
2001, 374 deaths (78%) were recorded, and median
survival times were 16 and 15 months (p=0.54), in the
control and tamoxifen arm. Data were further analysed
separately for advanced patients and for those eligible to
potentially curative locoregional treatments: relative
hazard of death for patients receiving tamoxifen was
equal to 0.98 (95% Cl 0.76-1.25) for the former group and
1.38 (95% Cl 0.95-2.01) for the latter. The prognostic
score recently devised by our group (CLIP score) was, as
expected, strictly correlated (p<0.0001) to the
locoregional treatment received and strongly correlated
with prognosis.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Tamoxifen:
The conclusion of CLIP-01 study
Conclusions: the update of the present study
confirms that tamoxifen is not effective in
prolonging survivals, both in advanced patients
and in those potentially curable and that the
CLIP score is able to predict prognosis.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Rilevanza di uno studio
con risultati positivi …
Trattamento del carcinoma del
colon-retto metastatico
Trattamento tradizionale:
1. fluorouracile
e acido folinico (FUFA)
2. irinotecan o oxaliplatino - miglioramento
significativo della sopravvivenza mediana.
3. cetuximab e bevacizumab (farmaci biologici)
cetuximab, un Ab monoclonale che inibisce
specificamente il recettore dell'epidermal growth
factor (EGFR).
bevacizumab, un Ab monoclonale che inibisce il
vascular endothelial growth factor (VEGF).
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Trattamento del carcinoma del
colon-retto metastatico
Studio fase III, arruolati 923 pazienti, in prima linea di
trattamento per carcinoma metastatico, randomizzati a
ricevere uno dei seguenti 3 schemi:
a) IFL (irinotecan 125 mg/m2, 5FU 500 mg/m2,
ac.folinico 20 mg/m2, alla settimana per 4 settimane
consecutive; cicli ogni 6 settimane) + placebo;
b) IFL + bevacizumab (5 mg/kg ogni 2 settimane);
c) FL (FUFA più bevacizumab (5 mg/kg ogni 2 settimane).
L'aggiunta di bevacizumab ad IFL aumenta
significativamente la sopravvivenza mediana di 4,7
mesi, oltre all'incidenza (+ 10%) e durata (+ 4,4 mesi)
delle risposte, ed al tempo mediano alla progressione (+
2,6 mesi).
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Trattamento del carcinoma del
colon-retto metastatico
Farmaco biologico + CHT versus CHT da sola:
sola al
momento non vi è evidenza che il farmaco prolunghi la
sopravvivenza quando è utilizzato da solo, pertanto va
sempre usato in associazione.
IFL versus FUFA + bevacizumab:
bevacizumab c’è una differenza
di efficacia non significativa tra i due trattamenti, il
secondo trattamento è indicato solo per pazienti con
carcinoma del colon-retto metastatico non trattati
precedentemente, e non candidati a ricevere irinotecan o
che non lo tollerano.
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Trattamento del carcinoma del
colon-retto metastatico
Bevacizumab versus bevacizumab +FOLFOX4,
+FOLFOX4 come terapia di
seconda linea in 829 pazienti con carcinoma del colon-retto
metastatico pretrattati con IFL.
confronto trattamenti
25,0
21,8
20,0
15,0
10,0
risposte obiettive
12,9
10,8
9,2
10,8
tempo mediano alla
progressione in mesi
7,2
4,8
5,0
3,0
2,7
sopravvivenza mediana
in mesi
0,0
bevacizum ab +
FOLFOX4
Cicolini Giancarlo Palma Elisabetta
FOLFOX4
bevacizum ab
G. d’Annunzio University
Trattamento del carcinoma del
colon-retto metastatico
costo/mese
5000
5000
3800
euro
4000
3000
2000
1224
729
1000
143
96,45
I
Cicolini Giancarlo Palma Elisabetta
no
iri
FO
LF
IR
te
c
an
I+
be
+c
e
va
tu
ci
xi
zu
m
ab
m
ab
IR
FO
LF
OX
FO
LF
on
t
ra
m
De
G
M
AY
O
0
G. d’Annunzio University
Statisticamente Significativo?
Clinicamente Significativo?
Interpretazione dei risultati
La discussione sulle eventuali debolezze
dello studio è importantissima
Tenere sempre a mente che
statisticamente significativo non significa
clinicamente importante
Valutate le analisi dei sottogruppi
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Un esempio: lo studio ISIS-1 …
Atenolo vs Placebo
Mortality at 24 hours after acute mycardial infarction
Zodiacal sign
Mortality arm A
N (%)
P
Capricornus
23 (71)
<0.01
Other signs
Median:24%
Always
>0.1 (NS)
<0.004
All cases
Cicolini Giancarlo Palma Elisabetta
10 (30)
G. d’Annunzio University
Che dovremmo fare?
Dare atenololo soltanto ai nati tra il 24
Ottobre e il 22 Novembre …?
Considerare i risultati come dovuti al
caso?
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Un altro esempio: lo studio ISIS-2 …
Aspirina vs Placebo
Mortality at 30 days after acute mycardial infarction
American College of Cardiology Foundation- Feb. 2003
Predicting incidence of some critical events by sun signs — the
Pisces study
Hitinder S. Gurm MBBS, MRCPa and Michael S. Lauer MD, FACC, FAHA,
Si crede che i segni zodiacali influenzino personalità e
salute. I nati nel segno del leone si dice siano di gran cuore
e a rischio di malattie cardiache. Sono stati messi a
confronto 32.386 pazienti valutando la mortalità di quelli
del segno del Leone.
I pazienti del Leone morti nei 5 anni dello studio sono stati
il 9.6% costro l’8,7% del resto della corte.
(rischio = 1.17; IC 95% = 1.03 to 1.33, P=0.019).
L’analisi della significatività dopo correzione statistica non
dimostra differenze nel rischio di mortalità
(rischio = 1.10; IC 95% = 0.92 to 1.31, P=0.30).
Essere del Leone non è associato a eventi avversi cardiaci.
Cicolini Giancarlo
G. d’Annunzio University
Another example: the ISIS-2 trial…
Aspirina vs Placebo
Mortality at 30 days after acute mycardial infarction
Zodiacal sign
Deaths
P
Libra or Gemini
150 vs 147
0.5 (NS)
Other signs
564 vs 869
<0.0001
All cases
804 vs 1064
<0.0001
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Lo studio (vero)ISIS-2 …
Aspirina vs Placebo
Mortality at 30 days after acute mycardial infarction
BMJ. 1998 May 2;316(7141):1337-43.
ISIS-2: 10 year survival among patients with suspected acute
myocardial infarction in randomised comparison of intravenous
streptokinase, oral aspirin, both, or neither. The ISIS-2 (Second
International Study of Infarct Survival) Collaborative Group.
Baigent C, Collins R, Appleby P, Parish S, Sleight P, Peto R.
obiettivo: definire gli effetti di streptokinasi e.v. vs. 1 mese di
aspirina per os, vs entrambi in lungosopravviventi dopo IMA.
disegno: Randomised, "2 x 2 factorial," placebo controlled
trial.
setting: 417 ospedali in 16 Paesi.
campione: 17.187 paz. con sospetto IMA, randomizzati tra
marzo 1985 e dicembre 1987. Il follow up al 1 gennaio 1990
ha coinvolto il 95% di tutti i pazienti e nel 1997 ha riguardato
6213 pazienti britannici.
Cicolini Giancarlo
G. d’Annunzio University
Lo studio (vero)ISIS-2 …
Aspirina vs Placebo
Mortality at 30 days after acute mycardial infarction
BMJ. 1998 May 2;316(7141):1337-43.
ISIS-2: 10 year survival among patients with suspected acute
myocardial infarction in randomised comparison of intravenous
streptokinase, oral aspirin, both, or neither. The ISIS-2 (Second
International Study of Infarct Survival) Collaborative Group.
Baigent C, Collins R, Appleby P, Parish S, Sleight P, Peto R.
intervento: streptokinasi ev (1.5 MU in 1 h) e aspirina per os
(162 mg(die per 1 mese) versus placebo.
Misure dei principali outcome: mortalità per tutte le cause
al follow up per 10 anni, con analisi dei sottogruppi ai follow
up quadriennali.
Cicolini Giancarlo
G. d’Annunzio University
Lo studio (vero)ISIS-2 …
Aspirina vs Placebo
Mortality at 30 days after acute mycardial infarction
BMJ. 1998 May 2;316(7141):1337-43.
ISIS-2: 10 year survival among patients with suspected acute myocardial infarction
in randomised comparison of intravenous streptokinase, oral aspirin, both, or
neither. The ISIS-2 (Second International Study of Infarct Survival) Collaborative
Group.
Baigent C, Collins R, Appleby P, Parish S, Sleight P, Peto R.
Cicolini Giancarlo
G. d’Annunzio University
Lo studio (vero)ISIS-2 …
Aspirina vs Placebo
Mortality at 30 days after acute mycardial infarction
BMJ. 1998 May 2;316(7141):1337-43.
ISIS-2: 10 year survival among patients with suspected acute myocardial infarction in
randomised comparison of intravenous streptokinase, oral aspirin, both, or neither. The ISIS2 (Second International Study of Infarct Survival) Collaborative Group.
Baigent C, Collins R, Appleby P, Parish S, Sleight P, Peto R.
Cicolini Giancarlo
G. d’Annunzio University
Lo studio (vero)ISIS-2 …
Aspirina vs Placebo
Mortality at 30 days after acute mycardial infarction
BMJ. 1998 May 2;316(7141):1337-43.
ISIS-2: 10 year survival among patients with suspected acute
myocardial infarction in randomised comparison of intravenous
streptokinase, oral aspirin, both, or neither. The ISIS-2 (Second
International Study of Infarct Survival) Collaborative Group.
Baigent C, Collins R, Appleby P, Parish S, Sleight P, Peto R.
conclusioni: i vantaggi in termini di sopravvivenza prodotti
da entrambi i trattamenti sembrano mantenersi per almeno
10 anni.
Cicolini Giancarlo
G. d’Annunzio University
“If you torture your data
long enough,
they will confess you
whatever you want to hear”
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Generalizzabilità dei risultati
Permette di valutare se i risultati di uno studio
possono essere estesi anche ad altri ambiti
La validità interna è un pre-requisito per la
validità esterna
La validità esterna dipende dalle caratteristiche
del campione, dal setting dello studio, dalla
sperimentazione effettuata, dagli outcomes
valutati (dovrebbero essere adeguatamente
illustrati nella sezione metodi)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Interpretazione generale
Gli Autori dovrebbero discutere i risultati
del trial nel contesto delle evidenze
disponibili
La discussione dovrebbe essere
sistematica e non limitata agli studi che
supportano i risultati del nostro studio
Valutate la potenza statistica dei RCT con
risultati negativi …
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Se il campione è troppo piccolo …
71 RCT (A vs B) con risultanti negativi
(non significativi)
Potenza
∆ 25%
∆ 50%
>80%
5 (7%)
22 (31%)
50-80%
9 (12.7%)
18 (25.3%)
<50%
57 (80.3%)
31(43.7%)
Freiman JA et al, NEJM 1978
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Se il campione è troppo piccolo …
492 abstract
presentati ai
meeting
annuale
ASCO dal
1995 al 2003
riguardanti
tutte le RCT
con risultati
negativi (nel
trattamento
“A” vs “B”)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
… un trial troppo piccolo per poter
osservare differenze clinicamente
importanti può essere
scientificamente inutile e persino
non etico nell’uso dei partecipanti e
delle risorse
Altman DG, BMJ 1980
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Elementi di una discussione
Affermazioni sui principali risultati
Spiegazione dell’importanza dei risultati
Comparazione con altri studi
Discussione di spiegazioni alternative dei risultati
Rilevanza clinica dei risultati
Identificazione di potenziali limiti dello studio
Suggerimenti per future ricerche
Conclusioni
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Studio statisticamente significativo ma
clinicamente irrilevante
Cochrane Database Syst Rev. 2000;(2):CD001266.
Bronchodilators for bronchiolitis. Kellner JD et al.
Review di RCT sull’uso di broncodilatatori vs. placebo nella
bronchiolite.
Analizzati 8 RCT con 394 bambini
Miglioramento clinico nel 46% dei casi (broncodilatatore) e
nel 75% (placebo)
OR nessun miglioramento = 0.29, IC 95% = 0.19 - 0.45
I broncodilatatori non mostrano aumento nella ossigenazione
Non diminuzione del tasso di ospedalizzazione 18%
(broncodilatatore) versus 26% (placebo)
OR = 0.70, IC 95% = 0.36 - 1.35)
Non diminuzione durata ricovero, differenza medie pesate
0.12
IC 95% = -0.3 to 0.5.
Cicolini Giancarlo
G. d’Annunzio University
Studio statisticamente significativo ma
clinicamente irrilevante
Cochrane Database Syst Rev. 2000;(2):CD001266.
Bronchodilators for bronchiolitis. Kellner JD
et al.
REVIEWER'S CONCLUSIONS:
Bronchodilators produce modest short-term
improvement in clinical scores.
This small benefit must be weighed against
the costs of these agents
Cicolini Giancarlo
G. d’Annunzio University
Enunciazione dei
risultati principali
Il primo paragrafo della discussione
Dovrebbe contenere i principali risultati
dello studio
Dovrebbe essere una dichiarazione
succinta dei risultati dello studio
Non deve, tuttavia, contenere i dati
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Spiegazione dell’importanza
dei risultati
Perché spiegare …
Perché il significato dei risultati e la loro
importanza potrebbe non essere chiaro a coloro
che leggeranno l’articolo per la prima volta
Perché non vogliamo forzare il lettore a dover
leggere più e più volte l’articolo per cercare di
capire cosa voglia dire …
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Confronti con altri studi
I risultati di studi simili …
A questo punto dobbiamo mettere in relazione i
nostri risultati con quelli di altri studi
Le domande sollevate da studi precedenti
possono servire come motivazione del nostro
studio
I risultati di altri studi possono rafforzare e
supportare l’importanza dei nostri risultati
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Differenze rispetto agli altri studi …
È importante spiegare in cosa il nostro studio
differisce da altri studi simili (criteri di
inclusione/esclusione, dosaggi dei farmaci,
schema di trattamento, end-points)
… e sottolineare le differenze rispetto agli
outcomes
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Ricerca della letteratura … last minute
È utile fare una ulteriore ricerca della letteratura
all’ultimo momento, proprio prima di inviare
l’articolo, per assicurarsi di non aver dimenticato
di inserire riferimenti alle più recenti
pubblicazioni
Escludere letteratura importante e recente può
indisporre il reviewer
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Discussione della
spiegazione alternativa
dei risultati
Scoprire … e non provare
Considerate attentamente tutte le possibili
spiegazioni per i vostri risultati, non
concentratevi solo sui possibili BIAS
Se consideriamo solo le spiegazioni che
giustificano i bias rischiamo di cadere nella
trappola e di disegnare ilo studio in modo
da provare i bias piuttosto che scoprire la
verità!
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La rilevanza clinica
dei risultati
Per quali pazienti si possono
applicare i risultati?
È importante incasellare i risultati del
nostro studio nel contesto della pratica
clinica
Anche i risultati degli studi condotti in
laboratorio possono avere implicazioni
cliniche, che dovrebbero essere anch’esse
stabilite
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Identificazione delle
potenziali limitazioni
dello studio
Tutti gli studi hanno limitazioni …
Le limitazioni di alcuni studi possono essere
fatali e precludere la pubblicazione
È meglio per noi identificare e commentare le
limitazioni del nostro studio piuttosto che sia il
reviewer a farcelo notare …
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Nello studio BIG 1-98 …
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Suggerimenti per la
futura ricerca
Domande non risposte
Alcune domande correlate allo
studio potrebbero rimanere senza
risposta
Dovremmo dare suggerimenti e
raccomandazioni circa future
ricerche
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Conclusioni
Portare a casa il messaggio
Dovrebbe essere la prima fase della
sezione conclusioni
È ciò che vogliamo che il lettore ricordi del
nostro studio
Le conclusioni dovrebbero anche fornire
suggerimenti per modificare la pratica – se
necessario
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Le conclusioni dello studio
BIG 1-98
Conclusions
In postmenopausal women with endocrineresponsive breast cancer, adjuvant treatment with
letrozole, as compared with tamoxifen, reduced the
risk of recurrent disease, especially at distant sites.
(ClinicalTrials.gov number, NCT00004205 [ClinicalTrials.gov] .)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Nelle discussioni, evitare …
Una sovra-interpretazione dei risultati
Speculazioni
Sovrastima dei risultati
Istanze trasversali
L’effetto “Bully Pulpit”
Conclusioni non supportate dai dati
Bully pulpit: autorità o pubblico ufficio che definisce l’agenda degli argomenti in
discussione e permette di essere auditi (riferito alla Casa Bianca)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Sovra interpretazione dei risultati
È possibile che i risultati vengano “gonfiati” nella
interpretazione dei dati
L’interpretazione dei risultati non dovrebbe
andare oltre i dati che li supportano
Inoltre, nuovi risultati non dovrebbero mai
essere inseriti nella discussione
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Speculazioni
La discussione deve rimanere focalizzata sui
dati
È inappropriato speculare su come i nostri
risultati potrebbero essere applicati ad altre
popolazioni di pazienti
Dovremmo chiarire se e quali tra i nostri
commenti possono essere delle speculazioni
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Sovrastima dei risultati
È facile attribuire una eccessiva
importanza ai risultati del nostro studio
Una sovrastima potrebbe indisporre il
reviewer
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Istanze trasversali
Confondono il lettore e corrono il rischio di
confondere il vero messaggio dello studio
È sempre importante rimanere focalizzati
sulle ipotesi e sui risultati del nostro studio
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
L’effetto “Bully Pulpit”
Non utilizzare la discussione per
criticare altri studi o attaccare altri
ricercatori
Non “fare la predica” al lettore
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Conclusioni non supportate dai dati
Le conclusioni dovrebbero essere sempre
supportate dai dati
Evitiamo la tentazione di far entrare i bias
nelle conclusioni
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Follow up della pubblicazione:
prima di spedire
l’articolo …
Revisione finale dell’articolo
NON CI SONO SCUSE per la cattiva
grammatica e ortografia
La scelta di ortografia inglese o americana
dipende dalla rivista dove intendiamo
pubblicare
Ogni autore sviluppa il proprio stile di
scrittura, tuttavia l’articolo dovrebbe essere
chiaro e di facile lettura
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Tassi di accettazione e di errore
120 articoli medici con struttura IMRAD
sottoposti a riviste nel periodo 1999-2000
8 diverse nazionalità
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Gli errori più frequenti
Errori grammaticali: es: la s della terza persona,
del plurale …
Errori strutturali: (sintassi) frasi troppo lunghe in
cui si “perde” il soggetto, l’ordine delle parole …
Errori lessicali (scelta delle parole): gergo,
cattiva scelta delle parole …
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Un articolo mal scritto
Il tasso di accettazione degli articoli UK/US è pù
elevato di quello di altre nazioni
Il paese con il tasso più basso di accettazione
(9% - Italia) è anche quello con il più elevato
tasso di errori
A parità di merito scientifico, un articolo mal
scritto ha meno possibilità di essere pubblicato
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Alcune raccomandazioni …
Frasi e paragrafi brevi
Preferire nomi e verbi ad aggettivi e avverbi
Evitare metafore ed espressioni dialettali
Preferire la concretezza all’astazione
Preferire l’uso dell’attivo rispetto al passivo
Evitare abbreviazioni, gergo professionale (es:
medichese), cliché o espressioni ridondanti
Essere comprensibili
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Ultime verifiche (I)
Valutare la consistenza, soprattutto rispetto ai
dati, che dovrebbero essere consistenti nel
testo, nelle tabelle e nei grafici
Controllate attentamente ogni aspetto che può
sembrare ambiguo e correggetelo
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Ultime verifiche (II)
Verificate il doppio che il format usato rispetti
quello chiesto dalla rivista
Se utilizziamo materiale già pubblicato,
assicuriamoci di avere il permesso di pubblicarlo
Se i pazienti possono essere ifdentificati va
ottenuto il loro consenso alla pubblicazione,
altrimenti il contenuto va modificato per
proteggerne l’identità
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Qualità della presentazione (I)
L’argomento è appropriato per la rivista?
L’introduzione è chiara e completa?
Le affermazioni fatte orientano il lettore?
La letteratura è stata adeguatamente
revisionata?
Le citazioni sono appropriate e complete?
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Qualità della presentazione (II)
Il razionale è chiaro?
I metodi sono adeguatamente descritti?
Le tecniche di analisi dei dati sono appropriate?
l’analisi dei dati è chiara?
I risultati e le conclusioni sono significativi?
La discussione è completa e accurata?
L’articolo è conciso?
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Feedback utili
Chiedete a un collega di leggere l’articolo per
assicurarci che sia comprensibile
Il collega dovrebbe leggere criticamente e
appuntare le debolezze dell’articolo come
farebbe un reviewer
Tenete l’articolo da parte per qualche giorno e
rileggetelo: troverete un numero sorprendente di
errori!
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La cover letter:
Deve contenere:
Scopo e i risultati più importanti dello studio
Possibile conflitto di interessi
Approvazione di tutti gli autori del
manoscritto
Nome, indirizzo e telefono nel
corresponding author
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Follow up della pubblicazione:
dopo aver spedito
l’articolo …
Dopo la submission
Procedure per la pubblicazione (6-12 mesi)
L’Editor valuta l’articolo
L’Editor assegna i reviewer (associated editors) per
la valutazione
I reviewer decisono se revisionare l’articolo
Più reviewer valutano e danno parere
L’Editor decide sulla accuratezza dei reviewer e se
accettare l’articolo
Se accettato, l’editor rimanda all’autore l’articolo
con le revisioni
L’autore rivede l’articolo e lo rimanda
Possibilità di un secondo prcesso di revisione
PUBBLICAZIONE!
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
L’editor deve stabilire:
Il contenuto scientifico è accurato?
Il materiale è innovativo e può avere impatti
sulla pratica clinica?
Il messaggio è appropriato per i lettori di quella
rivista?
Il manoscritto è stato preparato con attenzione?
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
L’inizio del processo di refereeing
La gran parte delle riviste invia un
ringraziamento per l’invio dell’articolo
Se non lo riceviamo in 3-4 settimane, è meglio
controllare che sia stato ricevuto
Il refereeing process può prendere del tempo,
fuggiamo la tentazione di chiedere troppo presto
qual è lo status del nostro articolo!
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
The refereeing process
L’editore può rifiutare direttamente l’articolo, se il
contenuto non è accurato o innovativo o
inappropriato per i lettori di quella rivista
L’editore invia l’articolo a 1 o 2 peer reviewers
esterni
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La Peer Review
Cosa è?
È un processo di revisione tra scienziati
Scopo
Filtrare la “scienza” in quello che viene
pubblicato
Assicurare una prospettiva ai ricercatori
Dove è usata?
pubblicazioni scientifiche
Grant Review
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Il risultato del processo di refereeing
1.
2.
3.
Accettazione dell’articolo senza revisioni
Richiesta di revisioni più o meno importanti
Rifiuto dell’articolo
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
1. Accettazione dell’articolo
senza revisioni
È l’ideale a cui tutti i ricercatori
aspirano…
… ma sfortunatamente non accade
spesso
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
2. Richiesta di revisioni
Se l’articolo viene rinviato con richiesta di
revisioni (più o meno consistenti),
dobbiamo fare le modifiche nel più breve
tempo possibile
Consideriamo attentamente tutti gli aspetti
che sono stati appuntati, coinvolgendo tutti
gli autori nelle decisioni su come
procedere
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Rispondere punto per punto
Quando inviamo nuovamente l’articolo, va
inviata una cover letter che dettaglia la nostra
risposta, punto per punto, alle richieste dei
referees
Questo permette all’editor di valutare con più
facilità se le richieste sono state evase in modo
esauriente
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Verifica della bozza
Le revisioni vanno rinviate velocemente e
rispettando la griglia della rivista
Gli autori dovrebbero però verificare le revisioni
in modo accurato – in quanto è una loro
responsabilità
Le aree con errori sono in genere quelle dei dati,
(tabelle e grafici) e la bibliografia
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Copyright transfer
Quando un articolo viene accettato, l’editor
manda al corresponding author un modulo su
copyright e authorship
Il corresponding author trasferisce il copyright
dell’articolo alla rivista per la pubblicazione
Con la firma, ciascun autore accetta la
responsabilità dei contenuti e accetta l’ordine dei
nomi della authorship
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
3. Articolo rifiutato
Lo studio ha errori non correggibili (es.
campione troppo piccolo, metodologia
inappropriata)
L’articolo potrebbe non essere
appropriato per quella rivista
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
E adesso?
Il destino degli articoli respinti …
Studio retrospettico di coorte
350 articoli rifiutati dalla rivista “Annals of Inernal
Medicine” nel periodo 1993-1994:
69% pubblicato dopo circa 18 mesi
La maggior parte su riviste di specialità
Con un IF minore (dal 9.6 degli Annals of Internal
Medicine ai 3.9 delle riviste in cui sono stati
pubblicati successivamente)
Ray J, et al, Am J Med,2000
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Non mollate, se siete
arrivati a questo punto!
Ritenta!
(sarai più fortunato)
La lettera dell’editor di solito dà indicazioni e
suggerimenti se vale la pena di tentare la
submission altrove
Possiamo procedere alla revisione dell’articolo
seguendo le indicazioni dell’editor e tentare di
inviarle ad altre riviste
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Valutare il peso scientifico
di una pubblicazione:
Impact Factor e Citation Index
Impact factor
Misura dell’importanza scientifica di una
rivista, pubblicata sul Journal Citation
Reports
Calcolata annualmente dall’Institute for
Scientific Information (ISI) per le riviste
da esso indicizzate con riferimento
all’anno precedente sulla base di
A= num. di volte in cui un articolo
pubblicato nel 2007 e nel 2008 viene
citato da riviste del 2009
B = num. totale di “citable items"
pubblicati nel 2007 e 2008
(es. articoli, reviews, non editorials né
Letters-to-the-Editor.)
2009 impact factor = A/B
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Come si calcola
L’IF di una rivista è calcolato su base triennale e
può essere considerato come la media del
numero di volte in cui gli articoli pubblicati sono
citati nei 2 anni dopo la pubblicazione
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Alcune sfumature …
L’ISI esclude alcune tipologie di articoli (news
item, correspondence, errata) dal denominatore
Nuove riviste indicizzate non vedranno
pubblicato il loro IF prima di tre anni
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Lati positivi
ISI ha una diffusione internazionale, il Web of
Science indicizza 9.000 riviste provenienti da 60
Paesi
I risultati sono completamente (ma non
gratuitamente) disponibili per l’utilizzo e la
comprensione
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Difetti dell’Impact Factor (I)
Il numero di citazioni di un articolo in una
determinata rivista non rappresenta la misura
diretta della qualità della rivista o del merito
scientifico, ma riflette soltanto (almeno in parte)
la quantità delle pubblicazioni in quell’area
Le riviste con una bassa circolazione non
avranno mai un elevato IF
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Difetti dell’Impact Factor (II)
La finestra temporale per le citazioni è troppo
piccola, gli articoli “classici” sono citati spesso
anche dopo molti anni
Il numero totale dei ricercatori, il numero medio
di autori per articolo e la natura dei risultati in
aree diverse … combinati insieme fanno sì che
l’IF tra gruppi diversi di scienziati diventi
incommensurabile
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Difetti dell’Impact Factor (III)
Se conteggiamo solo la frequenza delle citazioni
per articolo e non teniamo conto del prestigio
delle riviste in cui gli articoli vengono citati, allora
l’IF diventa una misura di popolarità, non di
prestigio
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Popolarità VS prestigio
Journal of Clinical Oncology(1995),13:2483-2489,
High-dose chemotherapy with
hematopoietic rescue as primary
treatment for metastatic breast cancer: a
randomized trial
WR Bezwoda, L Seymour and RD Dansey
PURPOSE: To compare in a RT the results of highdose versus conventional-dose CHT as first- line
treatment for metastatic breast cancer. The
comparison included complete response (CR) rate,
duration of response, and duration of survival.
Cicolini Giancarlo
G. d’Annunzio University
Popolarità VS prestigio
Journal of Clinical Oncology(1995),13:2483-2489,
High-dose chemotherapy with hematopoietic
rescue as primary treatment for metastatic
breast cancer: a randomized trial
WR Bezwoda, L Seymour and RD Dansey
PATIENTS AND METHODS: 90 patients were entered onto a
study to compare two cycles of high-dose
cyclophosphamide 2.4 g/m2, mitoxantrone 35 to 45 mg/m2,
and etoposide (VP16) 2.5 g/m2 (HD-CNV) versus six to
eight cycles of conventional-dose cyclophosphamide 600
mg/m2, mitoxantrone 12 mg/m2, and vincristine 1.4 mg/m2
(CNV) as first- line treatment for metastatic breast cancer.
The high-dose regimen included either autologous bone
marrow or peripheral-blood stem-cell rescue. All 90 patients
are assessable.
Cicolini Giancarlo
G. d’Annunzio University
Popolarità VS prestigio
Journal of Clinical Oncology(1995),13:2483-2489,
High-dose chemotherapy with hematopoietic rescue as primary
treatment for metastatic breast cancer: a randomized trial
WR Bezwoda, L Seymour and RD Dansey
PATIENTS AND METHODS:
Non c’è traccia di consenso informato dei partecipanti allo studio.
Lo studio non è stato approvato dalla University of Witwatersrand's IRB,
diversamente da quanto aveva affermato il Dr. Bezwoda.
Non c’è traccia evidente di randomizzazione.
Il protocollo di studio è stato scritto 9 anni dopo l’inizio dello studio, e solo dopo che
erano iniziate le indagini sullo studio del 1999.
← There were at least three possible treatment-related deaths among patients
receiving high-dose chemotherapy, although the paper claimed that there were none.
Non ci sono record per 29 dei 90 pazienti.
Per molti pazienti i record sono insufficienti, alcuni sono stati trattati con farmaci e
ormoni non compresi nello studio e non dichiarati nello studio.
In altre 9 pubblicazioni a cui ha partecipato il Dr. Bezwoda si sono false affermazioni.
Cicolini Giancarlo
G. d’Annunzio University
Popolarità VS prestigio
Journal of Clinical Oncology(1995),13:2483-2489,
High-dose chemotherapy with hematopoietic rescue as
primary treatment for metastatic breast cancer: a
randomized trial
WR Bezwoda, L Seymour and RD Dansey
RESULTS: The response rates were significantly different. The
overall response rate for HD-CNV was 43 of 45 (95%), with 23
of 45 patients (51%) achieving CR.
24 of 45 patients (53%) who received conventional CNV have
responded, with only two patients achieving CR. Both duration
of response and duration of survival were significantly longer
for patients, who received HD- CNV. Toxicity of the high-dose
therapy was moderate in most patients. Grade 2 to 3 mucositis
and hematologic suppression that required supportive
treatment was universal, but hematologic recovery to a
neutrophil count more than 500/microL and platelet count more
than 40,000/microL occurred at day 18 (median) after therapy.
Cicolini Giancarlo
G. d’Annunzio University
Popolarità VS prestigio
Journal of Clinical Oncology(1995),13:2483-2489,
High-dose chemotherapy with
hematopoietic rescue as primary
treatment for metastatic breast
cancer: a randomized trial
WR Bezwoda, L Seymour and RD Dansey
RESULTS:
Ci sono almeno 3 decessi legati al trattamento
nei pazienti che ricevevano il trattamento Hi
Dose, anche se nell’articolo si afferma che non
ce n’è stato nessuno.
Cicolini Giancarlo
G. d’Annunzio University
Popolarità VS prestigio
Journal of Clinical Oncology(1995),13:2483-2489,
High-dose chemotherapy with hematopoietic
rescue as primary treatment for metastatic
breast cancer: a randomized trial
WR Bezwoda, L Seymour and RD Dansey
CONCLUSION: HD- CNV appears to be a
promising schedule that results in a
significant proportion of CRs and increased
survival in patients with metastatic breast
cancer.
Cicolini Giancarlo
G. d’Annunzio University
Popolarità VS prestigio
JournalBreast Cancer Research and Treatment Volume 81, Supplement 1 /
March, 2003
High Dose Chemotherapy and Autologous Stem Cell
Transplantation for Metastatic Breast Cancer: Is there a Place?
Edward A. Stadtmauer
Abstract: Seven comparative trials with over 2000 patients
enrolled show no definitive evidence that high dose
chemotherapy with stem cell support offers a survival
advantage for metastatic breast cancer over conventional
dose chemotherapy. Though numbers are low and small
differences may exist particularly in subsets of patients, the
duration of follow-up is adequate to make the likelihood of a
late benefit low. High dose chemotherapy with stem cell
transplantation does not have a place in the treatment
of metastatic breast cancer outside of clinical trials.
Cicolini Giancarlo
G. d’Annunzio University
Alternative
Nel 2006 è stato porposto il Page-Rank
algorithm usato da “Google” per distinguere la
“qualità” delle citazioni e implementare così il
calcolo dell’IF
Combinando l’IF dell’ISI e il Page-Rank,
possiamo determinare il posizionamento tra
“popolarità” e “qualità” di una rivista
Le riviste Nature e Science sono considerate
come le più prestigiose, e nel sistema combinato
sono ai primi posti
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Utilizzo scientifico
Anche se l’IF era stato originalmente inteso
come misura della reputazione di una rivista è
ora sempre più utilizzato per misurare la
produttività degli scienziati (ricerca, carriera,
investimenti)
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
La “produttività” degli scienziati …
In un contesto di risorse limitate questa
quantificazione è importante per:
Garantirsi i finanziamenti
Essere chiamati da facoltà prestigiose
Avanzamenti di carriera
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Come quantificare la produzione
scientifica?
Per il nuovo ricercatore che vince il Nobel, il
valore e l’impatto della sua ricerca è fuori
discussione!
Per tutti gli altri, come si fa a quantificare
l’impatto cumulativo e la rilevanza del lavoro
scientifico?
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Alcuni criteri …
Numero totale di articoli
☺ misura la produttività
non misura l’importanza o l’impatto degli articoli
Numero totale di citazioni
☺ misura l’impatto totale
difficile da calcolare, può non rappresentare l’impegno come coautore
Numero di citazioni per articolo
☺ risolve gli svantaggi suddetti, dà un’idea dell’impatto totale
penalizza gli autori prolifici e avvantaggia chi scrive meno
Numero di articoli “significativi”
Numero di citazioni di ognuno degli articoli più citati
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Alcuni criteri …
Numero totale di articoli
☺ misura la produttività
non misura l’importanza o l’impatto degli articoli
Numero totale di citazioni
☺ misura l’impatto totale
difficile da calcolare, può non rappresentare l’impegno
come co-autore
Numero di citazioni per articolo
☺ risolve gli svantaggi suddetti, dà un’idea dell’impatto
totale
penalizza gli autori prolifici e avvantaggia chi scrive
meno
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Alcuni criteri …
Numero di articoli “significativi” (è il numero di articoli
citati più di X volte)
☺ risolve gli svantaggi suddetti, dà un’idea dell’impatto
totale
è arbitrario e può favorire/sfavorire un autore in modo
casuale
Numero di citazioni di ognuno degli articoli più citati
(i primi X articoli citati un determinato numero di volte)
☺ risolve in parte gli svantaggi suddetti
non è un singolo numero, è difficile da calcolare, è
arbitrario e può favorire/sfavorire un autore in modo
casuale
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Citation index
È l’indice delle citazioni tra le varie pubblicazioni
e permette al lettore di stabilire quali articoli
citano quali altri articoli
Nel 1960, l’Institute for Scientific Information
(ISI) di Eugene Garfield ha introdotto il primo
citation index per gli articoli pubblicati nel
Science Citation Index (SCI), oggi noto in
internet come Web of Science
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Analisi del Citation Index
Mentre la CI è stata originariamente creata allo
scopo di recuperare informazioni,
successivamente è stata utilizzata sempre più
per studi bibliometrici e di studio dell’evoluzione
della ricerca
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Benefits
Sapere chi cita i nostri articoli e conoscere l’impatto che il
nostro lavoro sta avendo sulla comunità dei ricercatori
Misurare l’influenza del lavoro dei nostri colleghi e
concorrenti
Seguire la scia delle idee e dei concetti più importanti e
interessanti
Determinare se una teoria è stata confermata, cambiata o
implementata
Vedere come è stato applicato un concetto di base
Valutare negli anni lo sviluppo di una argomento di ricerca
nella letteratura
Verificare l’accuratezza della bibliografia
Recuperare gli articoli più rilevanti “persi” nella ricerca in
un determinato ambito
Cicolini Giancarlo Palma Elisabetta
G. d’Annunzio University
Grazie per
l’attenzione
Giancarlo Cicolini [email protected]
Elisabetta Palma [email protected]
Cicolini Giancarlo
G. d’Annunzio University
Fly UP