Agreement indexes are widely used in Computational Linguistics and NLP to assess the reliability of annotation tasks. The paper aims at reviewing the literature on the topic, illustrating chance-corrected coefficients and their interpretation.

I coefficienti di Inter-Annotator Agreement sono ampiamente utilizzati in Linguistica Computazionale e NLP per valutare il livello di “affidabilità” delle annotazioni linguistiche. L’articolo propone una breve revisione della letteratura scientifica sull’argomento.

Inter-annotator agreement in linguistica: una rassegna critica

Gagliardi, Gloria
2018-01-01

Abstract

Agreement indexes are widely used in Computational Linguistics and NLP to assess the reliability of annotation tasks. The paper aims at reviewing the literature on the topic, illustrating chance-corrected coefficients and their interpretation.
2018
Inglese
Italiano
E. Cabrio A. Mazzei F. Tamburini
Proceedings of the Fifth Italian Conference on Computational Linguistics (CLiC-it 2018)
5th Italian Conference on Computational Linguistics, CLiC-it 2018
2253
206
212
7
9788831978415
http://ceur-ws.org/Vol-2253/paper28.pdf
CEUR-WS
Esperti anonimi
10-12 dicembre 2018
Torino
I coefficienti di Inter-Annotator Agreement sono ampiamente utilizzati in Linguistica Computazionale e NLP per valutare il livello di “affidabilità” delle annotazioni linguistiche. L’articolo propone una breve revisione della letteratura scientifica sull’argomento.
Agreement; Inter-annotator agreement; inter-tagger agreement; inter-rater agreement; reliability; annotation
1
Gagliardi, Gloria
reserved
273
info:eu-repo/semantics/conferenceObject
4 Contributo in Atti di Convegno (Proceeding)::4.1 Contributo in Atti di convegno
File in questo prodotto:
File Dimensione Formato  
paper28.pdf

non disponibili

Dimensione 1.79 MB
Formato Adobe PDF
1.79 MB Adobe PDF   Visualizza/Apri   Richiedi una copia

I documenti in IRIS sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/11574/189460
Citazioni
  • ???jsp.display-item.citation.pmc??? ND
social impact