Le tracce dei primi insediamenti umani in Ogliastra risalgono probabilmente al Neolitico e sono state rinvenute all'interno delle grotte del Supramonte di Baunei. Gli uomini preistorici, comunque, vivevano anche lungo le coste e le cale, cibandosi di vegetazione spontanea, di cacciagione e di pesca, sebbene le continue incursioni piratesche li costrinsero a spostarsi verso l'entroterra e a dare, così, origine ai primi paesi montani, all'interno dei quali incominciarono a praticare l'agricoltura e la pastorizia.

Il culto pagano dei popoli prenuragici è testimoniato dai vari reperti che sono stati rinvenuti nella zona, come utensili di vario genere, anfore di diverse dimensioni e punte di frecce. L'Ogliastra, poi, è particolarmente disseminata di Nuraghi, spendide e suggestive casa-fortezze, e di Tombe dei Giganti, ovvero tipi di sepolture nuragiche che testimoniano una notevole concentrazione di popolazioni nella regione. Il nuraghe è uno dei simboli più conosciuti della Sardegna, forse il monumento più rappresentativo della sua storia millenaria. E' un'imponente costruzione di forma semplice o complessa che può raggiungere e superare i 20 metri di altezza. Può sembrare inverosimile che che molte di queste costruzioni, erette con la tecnica della pietra a secco, si siano conservate così integre sino ai giorni nostri. Essi sono un vero e proprio gioiello dell'architettura preistorica, la quale testimonia l'altissimo livello di sviluppo che la civiltà nuragica raggiunse nell'età del bronzo. Durante il VII secolo a.C. la zona venne occupata dai Fenici, dai Punici e, successivamente, dai Romani, popolo del quale sono a tuttoggi presenti, lungo la costa, varie tracce e ruderi di villaggi. In seguito, dopo la conquista della Sardegna da parte dei Pisani, essa venne occupata dagli Aragonesi nel 1323, come testimonia la presenza di diverse torri costiere e di varie chiese campestri. Nel XII secolo la Sardegna era divisa in Giudicati e l'area dell'Ogliastra apparteneva al Giudicato di Cagliari, ma solo agli inizi del XIII secolo i Pisani, prima di venire cacciati dall'isola dagli Aragonesi, la resero Giudicato indipendente. Con il trascorrere dei secoli, comunque, la storia dell'Ogliastra è comune a quella del resto della Sardegna fino all'arrivo dello Stato Piemontese, al quale è dovuta la distruzione del suo originario, rigogliosissimo manto boschivo d'alto fusto. Durante i millenni, le varie popolazioni esterne che hanno colonizzato la Sardegna si sono sempre impadronite dei suoi tesori, delle sue foreste, del suo mare. Ma, in compenso, hanno anche ricevuto qualcosa, la malaria e la peste, le terribili malattie che le hanno costrette ad abbandonare l'isola e che hanno rafforzato il carattere e la fierezza delle genti locali.

In seguito alla legge regionale n. 9 del 2001 e successive integrazioni, è stata effettuata una nuova ripartizione del territorio della Regione Autonoma della Sardegna, che ha portato il numero delle province da quattro a otto. Le nuove Province sono attualmente solo amministrative, vale a dire che i territori usufruiranno di una migliore ripartizione dei fondi, ma non hanno (e potrebbero non avere) - ad esempio - nè Prefettura nè altri uffici statali su scala provinciale (Questura, Banca d'Italia ecc.). Le modifiche hanno assunto piena operatività a partire dal maggio 2005, quando si sono svolte le elezioni per rinnovare tutti i Consigli provinciali.

La Provincia dell'Ogliastra è una nuova provincia, costituita da 23 comuni. In attesa della formalizzazione della scelta del capoluogo, la Giunta Provinciale ha sede a Lanusei, mentre il Consiglio Provinciale ha sede a Tortolì.