Schon lange bevor der Ort erstmals urkundlich erwähnt wurde, besiedelten bereits die Kelten, die Alamannen sowie die Römer den hiesigen Raum. Die „Keltengräber“ oberhalb des Steinbruchs und die alte Gäustraße aus der vorrömischer Zeit ( sie wird heute noch Römerweg genannt ) zeugen davon.
Erstmals im Jahre 782 wurde Talheim als -Daleheim - urkundlich im Lorscher Kodex erwähnt.
Im 13.Jahrhundert ging der Ort von den Pfalzgrafen von Tübingen auf die Grafen von Hohenberg über. Am 10. August 1385 belehnte Graf Rudolf III. von Hohenberg die beiden Söhne - Kunzen und Diemo - des Konrad Kechler von Schwandorf, mit Ober-und Unter-Talheim. Bis zum Übergang an das Königreich Württemberg im Jahre 1805 hatten die Kechler von Schwandorf die Ortsherrschaft inne und besaßen ein Schloss in Obertalheim.
In den Bauernkriegen sowie im 30jährigen Krieg wurde der Ort oft genug geplündert und gebrandschatzt. Hunger und die Pest, sowie die Folgen der Koalitionskriege hinterließen bei der Bevölkerung tiefe Spuren. Besonders die Hungerjahre 1846/47 veranlassten viele, ihr Heimatdorf in Richtung Amerika oder Ungarn zu verlassen mit der Hoffnung, in der Fremde ein besseres Leben zu finden.
Die beide Ortsteile liegen rund 6,5 km nordwestlich von Horb im tief eingeschnittenen Steinachtal. Im Laufe der Geschichte gehörten sie mal zu Vorderösterreich, dann zu Württemberg und später zum Oberamt Nagold .
Im Ersten und im Zweiten Weltkrieg die beiden Ortsteile weitgehend von Kriegszerstörungen verschont. 1966 wurde das vor 100 Jahren erbaute Rathaus renoviert.
Das 1952 erstellte neue Schulhaus nimmt die Schüler der gemeinsamen Grund- und Hauptschule mit Untertalheim auf. Im Jahre 1902 wurde die Notkirche zum hl. Martin erbaut und 1976 wieder abgebrochen. An dieser Stelle entstand ein moderner, den Bedürfnissen der Gemeinde entsprechender Kirchenbau mit Nebenräumen für die Jugendarbeit. Ursprünglich wurde die Gemeinde kirchlich von Unterwaldach und seit 1819 von Untertalheim aus versorgt. 1964 konnte ein städtischer Kindergarten eingeweiht werden und mittlerweile sind es zwei Kindergärten mit Betreuungsplätzen für Kinder unter drei Jahren.
Im Zuge der Gemeindereform wurde die bis dahin selbstständige Gemeinde Untertalheim im Jahre 1971 zu Horb am Neckar eingemeindet, 1974 folgte das benachbarte Obertalheim und im Herbst 2004 erfolgte - nach 619 Jahren der Trennung - die Wiedervereinigung der Teilorte.
Die Landwirtschaft war über Jahrhunderte hinweg der dominierende Wirtschaftsfaktor in Talheim. Erst im 20.Jahrhundert , als auch hier die Industrie ihren Einzug hielt, begann sich die Struktur zu ändern. Bis in die 1970er Jahre hinein waren die wichtigsten Arbeitgeber die Textilbetriebe. Viele Frauen aus Talheim arbeiteten in „Heimarbeit“ für die meistens auf der Alb ansässigen Firmen. Mittlerweile finden die meisten Bewohner in den Industriegebieten der Umgebung und im Dienst-leistungssektor einen Arbeitsplatz. In Talheim selbst gibt es aber noch zahlreiche Handwerksbetriebe fast aller Sparten. Die öffentliche Infrastruktur ist gut, Metzger, Bäcker, Ärzte, Kreditinstitute, Post und Gaststätten sind ausreichend vorhanden. 2011 waren es bereits 2500 Einwohner und im aktuellen Neubaugebiet „Barbel-West“mit rund 57 Bauplätzen können im Frühjahr 2013 nach dem derzeitigem Planungsstand die ersten Häuser gebaut werden. Für über die Hälfte der Bauplätze gibt es bereits Interessenten, alles Ortsansässige. Damit wachsen die ehemaligen eigenständigen Stadtteile sicher nicht nur baulich zusammen.
Nicht weniger als 17 Vereine prägen die Dorfgemeinschaft und über 40 Grünpflegepaten kümmern sich ehrenamtlich um die dörflichen Grünanlagen. Diese Patenschaften findet man immer öfter in Gemeinden sowie auch in größeren Städten. Der Bürger identifiziert sich dadurch mit „seinem“ Objekt.
„Unser Dorf ist lebenswert und soll es auch bleiben“ wünscht sich Talheims Ortsvorsteherin Kerstin Just.
Talheim besitzt auch ein eigenes Wappen:
Ein diagonal geteiltes Schild in den Farben Rot und Silber. Mittig im Schild ein aufgerichteter, rechtsgekehrter Wolf als Wappentier in den Farben Rot und Silber, jeweils gegensätzlich zur Wappengrundfarbe. Die Farben sind in Anlehnung an die Farben der Stadt Horb gewählt worden. Das Wappentier geht auf die einstige Ortsadelsfamilie des Hugo von Thalheim zurück, der in seinem Siegel den aufgerichteten Wolf führte.