From Wikipedia, the free encyclopedia
The availability of bomb-making instruction on the Internet has been a cause célèbre amongst lawmakers and politicians anxious to curb the Internet frontier by censoring certain types of information deemed «dangerous» which is available online. «Simple» examples of explosives created from cheap, readily available ingredients are given.[1]
The Federal Bureau of Investigation reports that there were 1,699 criminal bombings[vague] in 1989 and 3,163 in 1994.[2] Terrorism plots involving homemade explosives have been foiled in Boston, London, Bali and Oslo.[3]
Supporters of digital rights argue that managers of Internet traffic do not have a right to deep package inspection, the automated system of analyzing what information is being transmitted, for example refusing to deliver a packet with the words «bomb instructions» and alerting authorities to the internet service provider ISP that requested the information.[4] They suggest that «we never seem to hear» about how the same instructions, including those for building nuclear devices,[5] have been available in public libraries for decades without calls for censorship.[6] In the late 19th century, Johann Most compiled Austrian military documents into a booklet demonstrating the use of explosives and distributed it at anarchist picnics without repercussion.[5]
Mike Godwin, then of the Electronic Frontier Foundation, claimed that journalists have played a key role in linking the creation of «bombs» with «the Internet» in the public conscious.[6]
Critics of the prosecution of Sherman Austin, an American anarchist charged with publishing instructions on the Internet, have pointed out that the Wikipedia article on Molotov cocktails contains more detailed instructions on the construction of homemade explosives, than Austin’s website did.[7][8]
Most American websites offering bomb-making instructions would not face civil liability, since Hess v. Indiana and Waller v. Osbourne determined that free speech restrictions can only be applied if the goal was «producing imminent lawless conduct» among a single target group – which is not the case for a website available to a large swath of the population – making the situation comparable to music advocating violence or suicide in its lyrics.[9]
In 1986, prior to the widespread use of the Internet, police investigated the sharing of a computer print-out from a digital manual titled the «Complete Book of Explosives» written by a group calling itself «Phoenix Force», as students shared the list with classmates and experimented with building many of the bombs it listed.[10]
In 1994, a thread was made on the bulletin boards of the National Rifle Association of America by a user named Warmaster that detailed how to make bombs out of baby food jars.[11]
After the 1995 Oklahoma City bombing, anonymous usenet posts criticised the construction of the bomb, and offered suggestions on how to overcome the failure of the bomb to do its maximum intended damage.[11] On March 23, 1996, the full text of the Terrorist Handbook was published online, including instructions on building the bomb used in the bombing, with the suggested upgrades.[11] When Mohammed Usman Saddique was arrested in 2006, he was charged with «possessing a document or record containing information of a kind likely to be useful to a person committing or preparing an act of terrorism» for having a copy of the manual on CD-ROM.[12]
A 1996 copy of the left-wing online German magazine Radikal hosted on a Dutch server provided detailed instructions of how to sabotage railroad lines.[13] In March of that year, a New South Wales MP called for legislation regarding internet access for youth, following reports of a boy injuring himself while trying to follow a bomb recipe online.[14]
Through 1998, the common view of the instructions was that they were used by curious youth anxious to build explosives simply as a dangerous experiment «with no intention of hurting anybody».[15]
Controversy over the availability of this information on the internet started as a result of the Columbine High School Shooting. Police claimed that they found printed copies of bomb-making instructions downloaded from the Internet in the bedroom of Anthony «T.J.» Solomon, the perpetrator of the 1999 Heritage High School shooting.[16]
Also in 1999, David Copeland planted nail bombs in London, killing 3 people and injuring 139, based on techniques discussed in The Terrorist’s Handbook and How to Make Bombs: Part Two, which he had downloaded from the internet.[17]
The militant US anti-abortion movement Army of God also provided information on constructing bombs in preparation for anti-abortion violence on their website.[18]
In 2001, journalists discovered that al-Qaeda members in Afghanistan had been using the internet to learn bomb-making techniques.[19]
In Finland in 2002, «RC» discussed bomb-making techniques on the internet on a Finnish website whose moderator displayed a picture of his own face on Osama bin Laden’s body, and then RC set off a bomb that killed seven people, including himself.[17]
In 2002, New Zealander Bruce Simpson published The Low Cost Cruise Missile; A looming threat? showing readers how they could construct a cruise missile for under $5,000.[20][21]
In 2003, Jeremy Parker of the Southern Knights of the Ku Klux Klan posted detailed bomb instructions on the internet in response to Martin Luther King Jr. Day, stating «sure would hate to see anything happen».[22]
The report «How to Bomb Thy Neighbor: Hamas Offers Online ‘Academy'» describes a Hamas online interactive 14-lesson course for Muslims on bomb-making, as part of a campaign to increase the number of bomb-makers.[17][23]
In 2004, a Palestinian group posted an online video showing the proper construction of suicide vests, hoping to support the Iraqi insurgency.[24]
The 2004 Madrid train bombers, who killed 191 people and wounded 1,800, downloaded their bomb-making instructions from the internet.[25]
The Canadian Saad Khalid admitted that he had downloaded bomb-making materials online in 2006, leading to the 2006 Toronto terrorism case.[26]
British student Isa Ibrahim made a suicide vest bomb using instructions he found online. He planned on exploding the device at a shopping centre. He was sentenced in July 2009 to a minimum of ten years in jail.[27]
Najibullah Zazi, an al-Qaeda member who pleaded guilty in February 2010 to a plot to bomb the New York City Subway system, searched online for information on how to build a bomb and where to buy the parts.[28]
It should simply not be possible to leave people free to instruct other people on the internet on how to make a bomb – that has nothing to do with freedom of expression
In 1995, Dianne Feinstein produced a bill to the United States Senate making it illegal to distribute bomb-making information, punishable by a $250,000 fine and 20 years’ imprisonment.[30] Two years later, the body voted 94–0 in favor of implementing it.[31] Although it was frequently said to be in response to Timothy McVeigh’s Oklahoma bombing, he had actually used two traditional hard-copy books titled Homemade C-4, A Recipe for Survival and Ragnar’s Big Book of Homemade Weapons and Improvised Explosives. Critics later pointed out both books were still for sale at Amazon.com, suggesting that legislators were not concerned about the true dissemination of such information.[32] When lawsuits erupted over DeCSS technology available over the Internet, allowing users to «crack» DVD encryption, the founders questioned why bomb-making instructions were legal, while software cracks that simply cost corporations money were not.[33]
In 2004, German authorities forced a seventeen-year-old to shut down his Web site, entitled Der Abarisch Sturm after he posted detailed instructions of how to build a bomb.[13] That year, French police also arrested a computer student in Alfortville who claimed he had posted similar instructions «for fun.»[13]
A 2007 attempt by the European Commission to suppress bomb-making websites by making ISPs criminally liable for allowing a user to view such a page was ridiculed by The Register as «fantastically ignorant of internet realities»[29][34]
Web sites offering advice on the construction of explosives are labelled as «Refused Classification» in Australia, as it is deemed to violate «all acceptable community standards».[35]
- ^ Horgan, John. «The Psychology of Terrorism», p. 116
- ^ The psychology of terrorism, John Horgan, outledge, 2005 ISBN 0-7146-5262-8
- ^ Guest, Annie (23 May 2013). «List of common chemicals used to make bombs released in bid to stem terrorism». ABC News.
- ^ Stair, Ralph M. et al. «Principles of Information Systems», p. 275
- ^ a b Anna Larabee, «Bombs: It’s Not the How, but the Why,» Star-Telegram, August 7, 2005.
- ^ a b Godwin, Mike. «Cyber Rights: Defending Free Speech in the Digital Age», p. 67
- ^ Caslon Analytics, Bomb info Archived October 15, 2009, at the Wayback Machine
- ^ Touretzky, David S. What the FBI Doesn’t Want You to See
- ^ Weissblum, Lonn. Incitement to violence on the World Wide Web Archived July 6, 2010, at the Wayback Machine
- ^ Hegarty, Stephen. Hernando Times, «Bomb-making instructions circulate in Pasco school», November 13, 1986
- ^ a b c Steger, Manfred B. «Violence and Its Alternatives», p. 89
- ^ The Daily Telegraph, Terror suspect had bomb-making manuals, court told, January 27, 2010
- ^ a b c Council of Europe, «Organised Crime in Europe: The threat of cybercrime,» 2004. p. 141
- ^ Everard, Jerry. «Virtual States: The Internet and the Boundaries of the Nation-State»
- ^ Tri City Herald, «Bomb making instructions on internet», October 2, 1998
- ^ Moore, Mark Harrison. «Deadly Lessons: Understanding Lethal School Violence», p. 50
- ^ a b c Weimann, Gabriel (2006). Terror on the Internet: the new arena, the new challenges. US Institute of Peace Press. p. 125. ISBN 1-929223-71-4.
instructions on the internet Bomb-making.
- ^ Karafin, Michael. Ball State Daily News, «Inflammatory news dangerous, irresponsible», January 19, 2010
- ^ Hate and bias crime: a reader, p. 367, Barbara Perry, Routledge, 2003, ISBN 0-415-94408-2, accessed February 23, 2010
- ^ Bruce Simpson. «The Low Cost Cruise Missile: A looming threat?». Aardvark.co.nz. Archived from the original on 5 June 2003.
- ^ Scott MacLeod (3 June 2003). «Boffin builds backyard missile». New Zealand Herald. APN New Zealand. Archived from the original on 17 February 2015.
- ^ Southern Poverty Law Center, Ku Klux Klan
- ^ The World’s Most Threatening Terrorist Networks and Criminal Gangs, p. 159, Michael T. Kindt, Jerrold M. Post, Barry R. Schneider, Macmillan, 2009, ISBN 0-230-61809-X, accessed February 23, 2010
- ^ Myers, Lisa. NBC, Web video teaches terrorists to make bomb vest, December 22, 2004
- ^ «Al-Qaida’s Online University; Jihad 101 for Would-Be Terrorists,» Der Spiegel, August 17, 2005, accessed February 23, 2010
- ^ Gillespie, Bill. CBC, Radio Show Log, June 23, 2006
- ^ David Sapsted (13 June 2009). «British student ‘learnt bomb-making on net’«. The National. London. Archived from the original on 7 October 2012. Retrieved 28 February 2014.
- ^ «Terror suspect indicted for conspiracy», UPI, September 24, 2009, accessed February 28, 2014
- ^ a b The Register, EC wants to suppress internet bomb-making guides, Julye 4, 2007
- ^ Feinstein Amendment SP419
- ^ Yeazel, Bryan J. «Bomb-making Manuals on the Internet», 16 Notre Dame Journal of Law, Ethics and Public Policy 279–306, 2002.
- ^ H. Brian Holland. «Inherently Dangerous: The Potential for an Internet-Specific Standard Restricting Speech that Performs a Teaching Function» Archived 2009-02-17 at the Wayback Machine University of San Francisco Law Review 39 (2005): 353.
- ^ CNN, Seven lines of code can crack DVD encryption Archived June 10, 2009, at the Wayback Machine, March 12, 2001
- ^ The Times, Website bomb-making lessons to be outlawed across Europe, July 4, 2007
- ^ The Australian, Internet villain Stephen Conroy comes up with top spin
- Brian Holland’s 2005 ‘Inherently Dangerous: The Potential For An Internet-Specific Standard Restricting Speech That Performs a Teaching Function’ in 39 University of San Francisco Law Review 353–406,
- Liezl Pangilinan’s 2005 ‘When A Nation Is At War: A Context Dependent Theory of Free Speech For the Regulation of Weapon Recipes’ in 22 Cardozo Arts & Entertainment Law Journal 683–721
- Andrianna Kastanek’s 2004 ‘From Hit Man To A Military Takeover of New York City: The Evolving Effects of Rice v Paladin Enterprises on Internet Censorship’ in 99 Northwestern University Law Review 383–440.
Время на прочтение1 мин
Количество просмотров3.1K
ChatGPT по заверению разработчиков не распространяет опасную информацию, но похоже, его можно обмануть и заставить выдавать пошаговые инструкции по созданию бомбы из удобрений.
Исследование показало наличие потенциальной уязвимости в больших языковых моделях, таких как ChatGPT. Хакер смог успешно манипулировать искусственным интеллектом, чтобы тот предоставил подробные инструкции по созданию бомбы из удобрений, что вызывает опасения по поводу злоупотребления такой технологией.
Хакеру по имени Amadon удалось обмануть ChatGPT (скорее всего речь шла о модели GPT-4o) и заставить его создать инструкции по изготовлению, сказав боту «поиграть в игру», после чего хакер использовал серию подключаемых подсказок, чтобы заставить чатбота создать подробный научно-фантастический мир, где правила безопасности бота не будут применяться.
Хотя обычно ChatGPT придерживается правил безопасности и отклоняет запросы о вредоносной информации, этот инцидент демонстрирует, что сложные техники формулировки запросов могут обойти эти меры предосторожности.
Эксперты выразили тревогу по поводу потенциальных последствий такой уязвимости, подчеркнув необходимость усиления мер безопасности и этических соображений при разработке и внедрении систем искусственного интеллекта. Чем более человечными становятся большие языковые модели (LLM), тем больше возможностей для социальной манипуляции ими может применяться.
В связи с этим важно разработать эффективные методы защиты от подобных атак, чтобы минимизировать потенциальные риски в будущем.
P.S. Пока непонятно, подвержена ли данной уязвимости новая модель OpenAI o1.
Теги:
- chatgpt
- безопастность
- запрещенная информация
- социальная инженерия
Хабы:
- Блог компании HOSTKEY
- Информационная безопасность
- Искусственный интеллект
Если эта публикация вас вдохновила и вы хотите поддержать автора — не стесняйтесь нажать на кнопку
Хакер Amadon смог обманом узнать способ изготовления бомбы у чат-бота ChatGPT. Об этом он рассказал изданию TechСrunch.
Обычно на запросы по изготовлению взрывчатых веществ ChatGPT отвечает, что не может помочь с этим, так как предоставление инструкций о том, как создать опасные или незаконные предметы, противоречит правилам безопасности и этическим нормам.
Однако Amadon удалось обмануть ChatGPT, предложив ему сыграть в игру. С помощью ряда запросов он заставил бота создать детализированный научно-фантастический мир, в котором не будут работать правила безопасности ChatGPT. Подобный обман, позволяющий обойти запрограммированные ограничения, называется «джейлбрейком».
После этого хакер попытался выяснить инструкцию по изготовлению бомбы, на что ChatGPT выдал список материалов, необходимых для изготовления взрывчатки. Затем бот подробно объяснил, как надо соединять их, чтобы получить мощное взрывчатое вещество, пригодное для создания мин, ловушек или самодельных взрывных устройств.
Фотография unsplash
По словам хакера, его долгое время волновала тема безопасности и искусственного интеллекта (ИИ). Поэтому его целью было не взломать чат-бот, а с помощью ряда вопросов узнать, как ChatGPT поможет прийти к необходимому ответу.
Издание TechCrunch сообщило, что направило ряд вопросов OpenAI. Например, как компания намерена исправить ситуацию, чтобы избежать таких «взломов» в будущем.
Это не первый раз, когда чат-боты уличают в генерации «вредного» контента. Так, бот для генерации рецептов от новозеландских супермаркетов Pak’nSave предлагал токсичные рецепты коктейлей и блюд. Например, в безалкогольном напитке, который «утоляет жажду и освежает чувства», приводились следующие ингредиенты: аммиак, хлорная известь и вода.
Ранее пользователи также смогли обмануть чат-бота Clyde, попросив его сыграть роль умершей бабушки, которая работала на заводе по производству напалма и часто рассказывала про свою профессию. Чат-бот с охотой подыграл «внуку» – настолько, что выдал ему рецепт производства напалма, правда, уточнив: «Это опасная штука, дорогой, я надеюсь, что ты никогда не увидишь ее в действии».
Напомним также, что неизвестный хакер в начале 2023 года взломал компанию OpenAI, которая разработала чат-бота ChatGPT, и похитил переписки сотрудников, в которых содержалась информация о новых разработках с искусственным интеллектом (ИИ). Хакер смог получить доступ к внутренним системам обмена сообщениями компании. Однако ему не удалось получить доступ к системам, на которых хранятся наработки по ИИ.
Публикация в интернете инструкций по изготовлению взрывчатки станет уголовно наказуемым действием согласно новому антитеррористическому законопроекту, который был во вторник представлен на рассмотрение европейских стран комиссаром Евросоюза по вопросам юстиции Франко Фраттини (Franco Frattini).
«Нельзя давать людям возможность свободно объяснять другим, как изготовить бомбу — это не имеет ничего общего со свободой самовыражения», — цитирует в среду Фраттини газета The Times. Поводами для появления документа стали, в частности, неудавшиеся июньские теракты в Великобритании и гибель испанских туристов в Йемене.
По словам авторов законопроекта, в случае отказа заблокировать доступ к сайтам с террористическими инструкциями преследование грозит и интернет-провайдерам. Даже если сайт расположен за пределами Евросоюза, «местные провайдеры могут решить, просмотр каких сайтов допустим», — считают чиновники.
Тем не менее, Ассоциация интернет-провайдеров заявила о намерении бороться с любыми попытками возложить уголовную ответственность за содержание сайтов на ее членов. Как утверждает представитель организации, «провайдер не является издателем и не имеет редакторского контроля над содержанием серверов, размещенным третьей стороной».
Представитель британского правительства сообщила, что согласно «Акту о терроризме» 2006 года размещенные в Великобритании сайты, на которых содержатся четкие инструкции по созданию бомбы, могут быть подвергнуты уголовному преследованию за поощрение террористической деятельности. Однако в случае размещения сайта за пределами страны британский суд уже не имеет подобной юрисдикции.
Депутаты Татарстана предложили досудебно блокировать в соцсетях посты с инструкциями по изготовлению бомб и огнестрельного оружия, а также запретить «героизировать» преступников. Об этом сообщается на сайте Госсовета республики.
Депутаты подготовили соответствующий проект поправок в закон об информации, информационных технологиях и о защите информации. Они разработали документ после трагедии в Казани, когда молодой человек открыл стрельбу в школе и убил девять человек.
Проектом предлагается расширить перечень информации, которую администрация соцсетей обязана отслеживать и блокировать до решения суда. В соответствии с действующим законодательством требуется блокировать контент, содержащий детскую порнографию, призывы к экстремизму, участию в несанкционированных митингах и прочее.
Госсовет Татарстана считает, что соцсети также должны выявлять и блокировать посты с инструкциями по изготовлению взрывчатки и огнестрельного оружия, переделки его основных частей и восстановления боевых свойств списанного оружия. Данная информация «используется для совершения противоправных действий вплоть до планируемых и совершаемых убийств людей», считает председатель Комитета по образованию, культуре, науке и национальным вопросам Татарстана Айрат Зарипов.
«Полагаем, что распространение в сети Интернет подобной информации необходимо полностью прекратить», — отметил он.
Кроме того, парламентарии предлагают ограничивать доступ к ресурсам, которые публично оправдывают противоправные действия, направленные против жизни, здоровья, свободы граждан. Поводом к запрету также стала казанская трагедия. Как сообщили депутаты, в Интернете стали появляться сообщения, оправдывающие действия преступника, который открыл стрельбу в школе.
Читайте также:
• Вы делаете бомбу? Тогда мы идём к вам
• Файеры у хулиганов хотят приравнять к оружию
«Социальные сети наводнились… материалами, в которых граждане, в том числе несовершеннолетние, начинали оправдывать действия совершившего злодеяние, находить некие «смягчающие» обстоятельства, выражать ему симпатии вплоть до кощунственной и неприемлемой его героизации», — рассказал председатель комитета.
По мнению парламентария, такие материалы негативно влияют на психику и могут сформировать неверные моральные взгляды у несовершеннолетних.
Законопроект планируется внести в Госдуму после рассмотрения документа на сессии Госсовета республики 11 июня.
11 мая в Казани в школе №175 бывший её ученик устроил стрельбу, в результате которой погибли девять человек, 23 получили ранения. После инцидента в России предложили повысить возраст владения оружием, а также призвали ужесточить ответственность за фиктивные справки для получения оружия.