Großvillars wurde im Jahr 1699 von vertriebenen Waldensern gegründet. Der Ort entstand im Zuge der Aufnahme von Glaubensflüchtlingen durch Herzog Eberhard Ludwig.
Bereits 1703 wurde Großvillars durch einen Brand weitgehend zerstört und anschließend neu aufgebaut. Der Wiederaufbau erfolgte mit der Vorgabe, Gebäude künftig aus Stein zu errichten.
Im 18. Jahrhundert entwickelte sich der Ort weiter. Kirchen wurden gebaut und deutsche Familien siedelten sich an.
Im Jahr 1866 wurde Großvillars zwischen Oberderdingen und Knittlingen aufgeteilt. Diese Situation blieb über ein Jahrhundert bestehen.
Erst zum 01. Januar 1973 wurde die Ortschaft vollständig in die Gemeinde Oberderdingen eingegliedert.