Det har vært lansert teorier om stedsnavnets opprinnelse være seg fønikisk eller romersk, men det er fortsatt ikke enighet om dette i Spania.

Det antas at Cordoba-provinsen først ble bosatt av Oretani, en gammel, førromersk sivilisasjon på Den iberiske halvøy (romersk Hispania), som ble tiltrukket av området på grunn av jern-, bly- og kobbergruvene.

Det har blitt fremsatt flere hypoteser om navnet Cordoba, men det er foreløpig ingen konsensus om saken.

En ubekreftet teori som ble lansert på slutten av 1700-tallet av historikeren José Antonio Conde, er at navnet kommer fra et fønikisk ord, qart túbah, som betyr “fin by”. Andre forskere har hevdet at byen først dukker opp i antikke tekster i forbindelse med etableringen av en fønikisk handelsstasjon ved navn Qorteba, som betyr “oljemølle”.

Romerne, som var fascinert av områdets skjønnhet og fruktbarhet, erobret byen rundt år 2000 f.Kr. og gjorde den til hovedstad i Hispania Ulterior, en av de to provinsene som den romerske republikken delte Hispania inn i.

Ifølge Cordoba-forfatteren Andrés Ruz Pérez kalte romerne byen for Corduba, et navn som dukket opp skriftlig for første gang rundt 200 f.Kr., selv om han hevder at alt tyder på at “dette stedsnavnet ikke er noe annet enn en latinisering av et annet tidligere navn”, muligens en turdetansk by. Pérez hevder at navnet på denne bosetningen er ukjent, selv om han antyder at det kan ha vært Kartuba.

Pérez påpeker også at stedsnavnets etymologiske betydning aldri har blitt bekreftet med historiske bevis.

Cordoba ble det ledende senteret for kultur og utdanning under det muslimske styret, da byen var kjent som Qurtubah, som ble hovedstaden i emiratet Cordoba.

Etter den kristne erobringen i 1236 ble byen en del av Castilla, og fikk navnet Cordoba, som mange mener er en latinisering av det tidligere navnet.