A última palavra sobre a qualidade de uma ideia científica sempre vai ser a correspondência entre as predições do modelo científico e o mundo real. O empiricismo sugere não apenas que a experiência direta (observação) de fenômenos naturais nos leva a propor melhores modelos sobre o comportamento do universo (indução), mas também que os modelos podem ser comparados na sua capacidade de prever esse comportamento.

Porque as pessoas ficam doentes? Para estudar as causas ou consequências de um fenômeno natural (ex. doença) é preciso identificar ou supor um exemplo real das condições que causariam o fenômeno (ex. bactéria), ou que deveriam ocorrer como consequência do fenômeno (ex. febre). Essas condições são as propriedades (ex. temperatura) do sistem natural (ex. paciente) que precisam ser medidas repetidas vezes (ex. vários pacientes), pois a variabilidade natural (ex. diferenças biológicas entre os pacientes) pode confundir a identificação das causas ou das consequências do fenômeno. Essas medidas que os cientistas usam para estudar um fenômeno são conhecidas como variáveis, e são a principal fonte de informação em uma pesquisa científica.

Por maior que seja o esforço que os cientistas façam em suas pesquisas, quase nunca é possível coletar toda a informação existente para estudar um fenômeno natural. Como regra geral, quanto mais informação for coletada, mais segura será a conclusão da pesquisa. Entretanto, é preciso planejar com cuidado a coleta de dados, para garantir que os dados coletados (amostra) sejam representativos da variabilidade natural do fenômeno estudado.

Conclusões tomadas a partir da análise da amostra são incertas, pois a amostra é uma versão incompleta da população. Entretanto, uma amostragem suficientemente grande e bem planejada, associada a uma análise de incerteza, pode garantir uma conclusão (inferência) bem segura. Descrições gráficas e numéricas das amostras (estimativas) são tentativas de aproximar o valor que seria obtido caso toda a população tivesse sido estudada (parâmetro).