1990年代の創成期より、国内外の主要なインターネットエクスチェンジとのピアリングも積極的に推進し、電信電話系ではないIP通信専業のISP事業者としては国内最大規模の主要都市間を接続するインターネットバックボーンを独自に構築している。また、アジア太平洋地域の国際バックボーンであるA-Boneの構築にも関与するなど、インターネット接続環境の整備にインフラ面で大きな貢献を果たした（1995年に株式会社アジア・インターネット・ホールディングを設立。2005年に吸収合併）。

主要な顧客層は官公庁と法人で、11,000社以上を抱える。特に、高度・大規模なシステムインテグレーションを必要とする大企業に対するシェアは圧倒的で、各業界トップ10企業の半数から、セクターによっては大半の主要企業を顧客とする。

IIJ自体が村井純・吉村伸を始めとするWIDEプロジェクトのメンバーが中心となって設立された企業である関係から、現在もWIDEプロジェクトやEPCglobalを始め、インターネットに関する研究・調査・実証実験・標準化等の活動に積極的に参画している。ISP事業者の中では、研究投資の比率は比較的高い方である。

1998年、トヨタ自動車およびソニーと合弁で、クロスウェイブコミュニケーションズ(CWC)を設立、当時としては画期的な広域イーサネット・サービスを開始したが、折りからの競争激化とインターネット・バブル崩壊により行き詰まり、CWCは2003年8月に会社更生手続き開始を申し立てた（同社の事業は、2003年12月にNTTコミュニケーションズに営業譲渡）。この特別損失で大幅赤字となり、第三者割当増資によりNTTグループが合計約30%を出資する株主となっている。NTTグループは副社長を含む取締役2名を派遣している。