タレントだけでなく一般人も出場していた視聴者参加型番組。殆どの期間においては久米宏が司会を、コント55号の萩本欽一と坂上二郎がチームキャプテンを務めていた。

クイズ番組ならではのスリルを味わうような肩肘張った内容ではなく、大喜利的な要素を持つトーク重視の内容だった。久米は、この番組での軽妙洒脱な司会ぶりで全国的な人気を得た。

「ほにゃらら」という言葉は、久米が問題を読む際「このとき思わずほにゃららと叫んでしまいました。なんと叫んだのでしょうか？」というように出題時の正解部分に使い、広く使われるようになった。「ほにゃぺけ」という言い方もあった。

またこの番組は、日本のクイズ番組史上初のVTR問題を出した番組でもある。フジテレビの『なるほど!ザ・ワールド』も同様のスタイルを取っていたが、本番組はそれよりも6年早く始められている。

企画の発端はテレビ局のスタッフや作家などを集めて行われた萩本宅での新年会で、古くからある古今東西ゲーム（山手線ゲーム）をヒントにして発案された。これは、司会役が「古今東西、花の名前!」とお題を出せば対戦者同士が花の名前を競って口にし、途中で一度出た花の名前を言ってしまったり途切れたりすれば負けとなるゲームで、このゲームが持つスピード感をクイズ番組に活かせないものかと提案された。よって企画クレジットには、萩本が各企画・主演番組で用いていたペンネーム「秋房子」（あき・ふさし）が挙がっている。番組開始前の萩本は、自身と坂上それぞれの個人活動が増えてコント55号としての活動に限界を感じていた頃であり、またコント以外の新しい番組を模索しはじめていた頃でもあった。

当時『55号決定版!』の担当者で、先述の新年会に招かれていたTBSのプロデューサーは奔走し、長年「55号枠」として定着していた火曜19:30枠を使っての番組スタートにこぎつけた。番組タイトルは、「クイズに正解（＝ぴったし）したときになる鐘（＝カン・カン）」に因んで付けられた。実際に久米から正解、または正解の内容に近い解答で「おまけ正解」と見なされた場合、「ぴったし カン・カーン!」の叫び声とチューブラーベル（録音）が鳴らされた。

番組制作は2週分をまとめて行うスタイルで、まず1本目を生放送した後、撮って出しの形で翌週放送分を収録していた。萩本は、当時本番組の生放送・収録直前の時間まで自身企画・主演の『欽ちゃんのどこまでやるの!』（テレビ朝日）の収録に参加しており、同番組の収録が延びて本番組の生放送に遅刻寸前という事態がしばしばあったという。

番組は、直前の時間帯に放送されていた『ザ・チャンス!』（1979年放送開始）ともども高視聴率をマークしていた。最高視聴率は1979年11月20日放送分での37.6% （ビデオリサーチ・関東地区調べ）。当初はトクホン本舗（鈴木日本堂＝現・トクホン）の一社提供で放送されていたが、中期以降は複数社提供となった。