SMK Negeri 2 Tarakan yang dulunya bernama STM Persiapan Negeri Tarakan berdiri berdasarkan Surat Keputusan Kepala Kantor Wilayah Departemen Pendidikan dan Kebudayaan Nomor : HII-571/PW-KT/74 pada  tanggal 18 Mei   1974 di Jl. Gunung Belah Tarakan yang masih menumpang di ST Negeri Tarakan dengan jurusan Mesin dan Bangunan menggunakan Kurikulum 1964.

Selanjutnya sejak dikeluarkannya SK Mendikbud nomor 0560/1984  tertanggal 20 Nopember 1984 berubah menjadi STM Negeri Tarakan.

Dengan pembukaan status ini Pemda Tingkat II Kabupaten Bulungan  menyerahkan sebidang tanah seluas 50.003 m2  yang berlokasi di Jl. Mulawarman RT 81 Desa Karang Anyar Kecamatan Tarakan Barat yang selanjutnya digunakan  untuk membangun STM Negeri Tarakan dengan dana bantuan dari ADB Loan 448 yang dilaksanakan dalam 3 tahap yang telah membuka jurusan baru yaitu Listrik, Otomotip dan Elektronika.

Berdasarkan Keputusan Menteri Pendidikan dan Kebudayaan Nomor 036/O/1996 terjadi perubahan nomenklatur SMKTA menjadi SMK serta organisasi dan tata kerja SMK. Untuk STM Negeri Tarakan berubah menjadi SMK Negeri 2 Tarakan  yang sekarang nama lokasinya berubah menjadi Jl. Aki Balak RT 20 Tarakan  Barat 77116 dengan Paket Keahlian sesuai spektrum yang baru adalah :Teknik Konstruksi dan Properti, Bisnis konstruki dan property, desain pemodelan dan informasi Bangunan, Teknik Instalasi Pemanfaatan Tenaga Listrik, Teknik Audio Video, Teknik Pemesinan, Teknik Pengelasan, Teknik Kendaraan Ringan, Teknik Alat Berat, Teknik Komputer dan Jaringan dengan menggunakan Kurikulum 2013 mulai tahun pembelajaran 2013/2014 hingga sekarang.

Kepala Sekolah  :

Nama              :  Tjondro Wibowo

Periode            :  sd 1987

Nama              :  Drs. Syafruddin Harun Nafsi

Periode            :  1987 sd 1992

Nama              :  Sunarso, B.Sc.

Periode            :  1992 – 1997

Nama              :  Drs. Supandiyono

Periode            :  1997 – 2002

Nama              :  Drs. Sarmin

Periode            :  2002 – 2011

Nama              :  Drs. FX. Sunaryana, MT.

Periode            :  2011 –  2019

Nama              : Eko Dani Wariyanto,M.Pd

Periode         : 2020 – 2023

Nama              : Zulfikar Hasyim, S.Pd., M.Pd

Periode         : 2023 – sekarang