Non c'è dubbio sul fatto che per conoscere la statistica nei suoi aspetti più complessi sia richiesta una discreta padronanza della matematica, tuttavia prima ancora di gettarsi a capofitto sulle elaborazioni numeriche anche assai complicate è importante stabilire a priori l'insieme (in termini di tipo e numerosità) dei valori scelti per rappresentare un certo fenomeno.

Il gruppo preso in esame (di persone, di bulloni prodotti, di un certo modello di autovettura...) è detto popolazione. I cittadini italiani con diritto al voto sono statisticamente parlando un esempio di popolazione. Del resto la statistica è nata studiando la popolazione!

Ora, per fotografare l'attuale consenso degli italiani verso uno schieramento politico avrebbe costi proibitivi chiedere telefonicamente (o con altro sistema) a tutti gli aventi diritto le preferenze elettorali anche ammettendo che tutti siano disposti a dirle. E' evidente che si deve intervistare un numero ristretto di elettori, cioè una parte della popolazione, cui in linguaggio statistico viene dato il nome di campione. Analogamente, su un insieme di 80000 viti prodotte da una macchina in una giornata i controlli di qualità saranno effettuati un un numero ristretto di oggetti. Sì, ma quanti?

Questa problematica riguarda la cosiddetta statistica induttiva (o inferenza statistica) il cui scopo è lo studio di un opportuno campione per trarre conclusioni valide per tutta la popolazione. Per esempio, per saggiare il consenso elettorale, ci si deve interrogare sul numero di persone da intervistare (100, 1000, 10000...) e sulle modalità di scelta dei soggetti (casuale da elenco telefonico, intervista per la strada, per livello di istruzione, per categoria lavorativa...) oltre che sulle domande da fare (a risposta libera, a scala di valori...) prima di eseguire l'analisi dei dati raccolti, poiché la prima parte può influenzare anche notevolmente, falsandolo, il risultato finale. Ciò per sottolineare che nella statistica non c'é solo tanta matematica.

Quando l'obiettivo è la descrizione di un gruppo di dati (raggruppare e sintetizzare i dati raccolti) si è in ambito di statistica descrittiva. Il voto finale in matematica dato a ciascuno studente a fine anno è ricavato dal punto di vista del puro calcolo con una tecnica elementare di statistica descrittiva che tutti sanno: tale numero non fa altro che descrivere e sintetizzare il rendimento dell'allievo durante tutto l'anno scolastico.