Institut za zemlljište osnovan je 1898 godine kao prva matična naučna ustanova u Beogradu, istorijski je sledbenik jedne od najblistavijih tradicija Srbije u oblasti poljoprivrednih nauka. Sredina devetnaestog veka može se smatrati početkom razvoja poljoprivredne nauke u Srbiji. Ističemo epitet istorijski sledbenik, budući da je Institut za zemljište jedina kuća koja je ostala na temeljima onih ideja koju su postavili rodonačelnici razvoja prosvete i nauke u Srbiji sredinom XIX veka. Naime, konstituisanje i razvoj pojedinih Instituta i fakulteta u oblasti poljoprivrede u Srbiji sledilo je logiku razvoja naučne i stručne misli, sa posledicom specijalizacije Instituta i obrazovnih institucija, a zatim njihovim osamostaljivanjem, a time i odvajanjem nauka od primordijalnih državom ustanovljenih tvorevina.
U ovom procesu specijalizacije odvajale su se postepeno, jedna za drugom naučne institucije koje su se osposobile za rad na problemima : selekcije i kontrole poljoprivrednih proizvoda, stočarstva, povrtarstva, voćarstva, vinogradarstva sve do edukativnih institucija (fakulteta i viših škola). Razlozi odvajanja, naravno, nisu uvek bili samo naučne prirode, već su, verovatno, zasnivani i na ekonomskim i drugim višim potrebama države, pri čemu se odvajanjem naučnih disciplina sačuvala u početnom obliku samo nauka o zemljištu, kao ishodna i specifična oblast naučnog zanimanja. U tom smislu Institut za zemljište u okvirima nauke Srbije, predstavja matičnu naučnu kuću, a u okviru naučne delatnosti predstavlja jedinu specijalizovanu ustanovu koja se u okviru svoje delatnosti bavi naučnim, razvojnim i aplikativnim problemima zamljišta, odnosno zemljišnog prostora.
Hronološki, razvoj Instituta tekao je ovim redom:

Prva državna ekonomija " Zavedenije ekonomije" I "Zemljodelska škola" kod nas osnovana je 1851 godine u Topčideru sa zadatkom da služi za obrazovanje i nauku svake zemaljske vrste. Akt o "Ustroeniu zemljodelske škole" u Topčideru potpisao je Knjaz Aleksandar Karadjordjević 10. januara 1853 godine.
Odlukom Ministarstva narodne privrede 1. maja 1898 godine, ustanovljena je služba institutskog karaktera pod nazivom "Poljoprivredna i hemijska ogledna stanica". Ona je bila smeštena u zgradi Knez Mihailovog dvorca u Topčideru i tamo je ostala do rata 1914 godine. Za vreme rata 1914-1918 godina, sva aparatura i nameštaj su uništeni, zgrada ruinirana. Obnova je počela tek po okončanju rata, 1919 godine od kada datira i novi naziv "Poljoprivredna ogledna i kontrolna stanica". Početkom 1928 godine, Stanica prelazi u nove prostorije i svi odseci dobijaju bolje uslove za rad.

Naziv "Zemaljski zavod za poljoprivredna istraživanja Beograd", Topčider, ustanova dobija posle drugog Svetskog rata. Za vreme rata delatnost nije obavljana.
1948. godine, ponovo dolazi do promene naziva u " Zemaljski Institut za poljoprivredna istraživanja".
Godine 1959., Institut za pedologiju i agrohemiju menja naziv u "Institut za proučavanje zemljišta". Suosnivač Instituta su Republičko izvršno veće, Poljoprivredni i Šumarski fakultet Univerziteta u Beogradu i Republička privredna komora. Njegovim osnivanjem pokreće se značajan program afirmacije nauke o zemljištu utemeljen na tada najsavremenijim konceptima razvoja takvih institucija u svetu.

Sadašnji naziv" Institut za zemljište", datira od 1976. godine.