Begitu tiba di Amerika, salah seorang rekannya asal Seattle menunjukan betapa hebatnya kekuatan internet, dan dia ingin menggunakannya sebagai ladang hidupnya. Wajahnya berseri-seri dan sangat bersemangat ketika dia pulang kerumah dan menunjukan ke rekannya dan berencana untuk menjalankan bisnis startup. Meskipun idenya tidak banyak mendapatkan dukungan dari teman-temannya, Jack tidak menyerah begitu saja dan memulai membuat China Pages - sebuah online directory bagi pengusaha lokal mendapatkan pelanggan daru luar negeri. Namun bisnis tersebut gagal, Jack pun terpaksa menutupnya.
Tidak menyerah begitu saja, karena Jack kemudian mencoba bisnis barunya di Februari 1999 dengan mendirikan Alibaba.com bersama dengan 17 temannya yang mau menginvestasikan uang mereka pada bisnis Jack ini. "Semua orang tahu kisah Alibaba, seorang pemuda yang ingin membantu banyak orang," jelas Jack ketika ditanya mengapa dia memilih nama Alibaba. Rencana bisnis Jack masih sama dengan China Pages; membantu pelaku bisnis lokal mencari pelanggan dari balahan dunia lain. Alibaba.com mempermudah para eksportir untuk mengunggah produk mereka secara online untuk mendapatkan pembeli potensial.