A.A. Oka Mahendra memulai karier menjadi calon hakim pada Pengadilan Negeri Denpasar sejak 1 April 1971 sampai Juni 199I. Oka Mahendra kemudian pindah ke Direktorat Jenderal Badan Peradilan Umum dan Peradilan Tata Usaha Negara, Departemen Kehakiman RI. Jabatan terakhir di Departemen Kehakiman dan HAM sebagai staf ahli menteri. Menjadi anggota DPR RI sejak Oktober 1971 dan berakhir pada 1997, dari Fraksi Karya Pembangunan. Pernah menjabat anggota Dewan Pembina Serikat Pekerja Seluruh Indonesia, Ketua Harian Dewan Pimpinan Pusat Himpunan Pengrajin Indonesia, Ketua Komite Hak Asasi, Hukum, dan Konstitusi, anggota Dewan Pimpinan Nasional SOKSI. Di lembaga umat Hindu, menjadi Ketua IV PHDI Pusat periode 1996-2001 dan aktif memberikan dharma tula pada berbagai kesempatan. Oka Mahendra dilantik sebagai Sekretaris Jenderal MK pada 2 Januari 2004 dan sempat mengabdi di MK sekitar tiga bulan.