Il termine ha radici nella sofistica; deriva dal greco sophistés (sapiente) ed era sinonimo di sophos (saggio). Si riferiva ad una persona esperta, conoscitrice di particolari tecniche e dotata di una cultura ampia.
Nel V secolo invece vengono definiti sofisti quegli intellettuali che facevano professione ed ostentazione di sapienza, insegnadola dietro compenso: questo fatto appariva scandaloso alla mentalità del tempo e portò ad una negativa considerazione di questa corrente di pensiero.
I sofisti vennero così bollati come falsi sapienti interessati solo ai soldi e al successo, invece che alla verità.
Recentemente, e specialmente con il movimento studentesco del '68, i sofismi in italiano hanno assunto un carattere negativo, intesi infatti come discorsi ingannevoli, basati sulla semplice forza retorica delle argomentazioni e finalizzati a carpire il consenso degli ingenui e dei semplici.