ヨーカ堂の創業は、伊藤雅俊氏の叔父が台東区浅草に「羊華堂」を開業したのが始まりです。「お客様を第一に考える、信用を大切にして約束を守る」ことを創業以来、理念として掲げていました。そして終戦の年の1945年、戦災のため浅草から北千住へ移転しています。
当時の羊華堂の店内には、「質素な人生観＋合理的経営＝薄利多売主義」という言葉が大書きされていたといいます。薄利多売のため、1箱分の商品を売っても儲けは箱代か袋代にしかなりませんでした。しかしそれでも薄利多売をやめませんでした。なぜなら、それが「信用」につながると考えたからです。
羊華堂は「顧客」と「感謝の心」を大事にしました。顧客に「こんな商品がないか」と言われたら、その商品を必ず仕入れました。店の前を掃除するときは、両隣の前まで綺麗にしました。こうしたことを続けた結果信用が高まり、店は繁盛しました。駅前通りが「羊華堂通り」と呼ばれるまでになったのです。
1958年に株式会社ヨーカ堂に移行しました。ところで、このころまでは日本の商店街は賑わいを見せていました。しかし1960年以降、ダイエーやヨーカ堂などの大規模小売店が成長するに伴い、商店街は廃れていきました。ヨーカ堂が商店街をシャッター街へ追いやった勢力の一翼を担っていたといえます。
そうしたなか、政府は消費者と中小小売店の双方の利益を図ることを目的に、大規模小売店舗法（大店法）を1974年より施行しました。同法は結果としてヨーカ堂などの大規模小売店を規制し、中小小売事業者を過度に守るものとなりました。これに対し伊藤雅俊氏は、「大店法により競争が少なくなり、それをいいことに日本の小売業者はコスト意識をなくしてしまった」と喝破しています。