Google'ın kuruluş süreci 1996 Ocak ayında Kaliforniya'daki Stanford Üniversitesi'nde doktora öğrencileri olan Larry Page ve Sergey Brin'in araştırma projesiyle başladı.
Geleneksel arama motorlarıyla yapılan aramalarda, sonuçlar; aranan terimlerin sayfada kaç kez görüldüğü mantığıyla sıralanıyordu ancak Google siteler arası ilişkilerin analizi konusunda çok daha elverişli iki sistem kuramı ortaya koydu. Bu yeni teknolojiye PageRank adı veriliyordu, bu sisteme göre sayfa dizinlerinin orijinal site ile olan bağlantı dönüşümleri belirlenerek; siteler, gösterilen ilgiye göre sıralanıyordu.
Küçük bir arama motoru olan ve Robin Li tarafından IDD Bilişim Hizmetleri adına geliştirilen "RankDex", zaten 1996'dan beri site puanlaması ve sayfa sıralaması için benzer bir strateji kullanmaktaydı. RankDex, patentliydi ve Li'nin Çin'de kurulmuş olduğu Baidu adını taşıyan arama motoru bu sistemle çalışıyordu.
Page ve Brin yeni oluşturdukları arama motoruna ilk olarak "BackRub" ismini koymuştu, çünkü siteler için geri bağlantıların kontrol edilmesinin önemini tahmin edebiliyorlardı. Ancak daha sonra, "googol" sözcüğü üzerinde orijinal bir imla değişikliği yapılarak, bu arama motoru Google olarak adlandırıldı, Google arama motoruyla insanlara büyük bir bilgi kaynağının sunulduğunu belirtmek için bu isim konulmuştu, çünkü googol on üzeri yüz rakamını ifade ediyordu. Başlangıçta Google; Stanford Üniversitesi'nin alt-alan adı olarak google.stanford.edu alan adını kullandı.
Bugün kullandığı alan adını 15 Eylül 1997'de etkinleştirdi ve 4 Eylül 1998'de Google şirketi resmen kuruldu. Şirket merkezi arkadaşları Susan Wojcicki'nin Menlo Park, Kaliforniya'da bulunan garajı olarak belirlendi. Stanford Üniversitesi'nde doktora yapan bir öğrenci olan Craig Silverstein, ilk çalışan olarak işe alındı.
Bir yıl önceki rakam olan 931 milyon tekil ziyaretçi sayısındaki yüzde 8,4'lük bir artışla, 2001 Mayıs ayında; Google'nin tekil ziyaretçi sayısı ilk kez 1 milyarı buldu.